La intel·ligència artificial està passant ràpidament de l'experimentació a la producció. Els sistemes de programari ja no només ajuden els humans. comencen a prendre decisions de forma independent. En finances, aquest canvi introdueix un conjunt únic de reptes perquè el moviment dels diners és irreversible, regulat i profundament entrellaçat amb els sistemes del món real. Segons l'operador de fintech Zack Shooter, el següent obstacle important per a l'adopció de la IA no serà la intel·ligència. Shooter va passar cinc anys ajudant a construir la infraestructura financera global a Deel, donant suport als pagaments, al compliment i a les operacions de tresoreria a més de 100 països.Aquesta experiència li va donar una exposició primerenca al que passa quan l'automatització es troba amb les vies financeres del món real. Els sistemes financers, argumenta, mai van ser dissenyats per a actors autònoms. A Financial Stack Built Across Three Eras of Technology Una pila financera construïda a través de tres èpoques de tecnologia La infraestructura financera moderna no és un sol sistema; és una pila de capes construïda al llarg de dècades. Les vies bancàries heretades segueixen donant suport al moviment monetari global. Les plataformes modernes de fintech se situen a la part superior d'aquestes vies amb APIs i control centralitzat. Al costat d'elles, els sistemes blockchain introdueixen execució determinista i liquidació irreversible. Cada capa opera sota diferents supòsits al voltant de la confiança, la latència, la reversibilitat i la supervisió humana. "Estem demanant als sistemes d'IA que desplacin els diners a través d'una infraestructura que abasta dècades de paradigmes tecnològics", explica Shooter. "Cap d'ells va ser dissenyat amb actors autònoms en ment, i cap d'ells comparteix un model de control unificat". Els operadors humans han absorbit històricament la fricció entre aquestes capes. Why Today’s Fintech Stack Is Not AI-Ready Per què el Fintech Stack d'avui no està preparat per a l'AI La majoria dels sistemes financers assumeixen que els humans són en última instància responsables de les decisions.Les aprovacions, el maneig d'excepcions i les revisions de riscos es construeixen al voltant de les persones que estan en el cercle. Els sistemes d’intel·ligència artificial es comporten de manera molt diferent, operen contínuament, actuen més ràpidament del que els humans poden intervenir i prenen decisions probabilístiques en lloc de deterministes. "L'infraestructura financera d'avui en dia es construeix al voltant de punts de control manuals i la intuïció humana", diu Shooter. "La IA no s'atura per a la revisió. En els fluxos de treball impulsats per l'home, el reportatge retardat o el maneig d'errors inconsistents sovint es poden corregir manualment. The Risk of AI-Initiated Financial Operations El risc de les operacions financeres iniciades per AI Shooter espera que els agents de la IA iniciïn cada vegada més pagaments, gestionin la liquiditat, itineressin transaccions entre proveïdors, reconciliessin els saldos i interactuessin directament amb bancs, processadors de pagaments i sistemes en cadena. El problema no és si la IA pot fer aquestes coses, sinó si els sistemes existents poden governar-les de forma segura. La infraestructura financera actual ofereix una observabilitat limitada en temps real, models d'autorització fragmentats i poca capacitat per explicar o revertir les decisions automatitzades. "Els modes d'error canvien una vegada que es permet al programari moure diners per si mateix", assenyala Shooter. "Les petites bretxes que els humans poden compensar es converteixen en riscos sistèmics quan les decisions es fan de forma contínua i a escala". Closed-Loop Agentic Payment Systems Are Only Early Experiments Els sistemes de pagament d'agents de circuit tancat són només experiments primitius Shooter apunta a sistemes emergents com X402 i altres marcs de pagament d'agents com a senyals importants d'on va la indústria. Aquests sistemes exploren com els agents autònoms poden transaccionar entre si, però, funcionen en gran mesura en entorns de cercle tancat dissenyats per a casos d'ús específics i contraparts coneguts. Eviten gran part de la complexitat involucrada en la interacció amb bancs globals, proveïdors de pagaments regulats i ferrocarrils financers llegats. "Sistemes de pagament d'agents com X402 són experiments valuosos", diu Shooter. "Però existeixen en entorns controlats. El veritable repte comença quan els sistemes d'IA han d'interactuar amb bancs, reguladors, PSP i infraestructures llegades alhora." Fins que els pagaments impulsats per la IA puguin operar de forma segura en sistemes oberts i regulats, els problemes més difícils romanen sense resoldre. The Identity and Accountability Gap for AI Agents La bretxa d'identitat i responsabilitat per als agents d'IA Més enllà de la infraestructura i la governança, Shooter veu sorgir un problema fonamental d’identitat. Els sistemes financers es construeixen al voltant d'entitats responsables. Els humans tenen identitats legals. Les empreses tenen identitats corporatives. Els marcs KYC i KYB existents depenen d'aquesta estructura.Sense un vincle clar entre un sistema autònom i una persona o organització responsable, aquests marcs no poden funcionar com es pretén. "Cada acció financera, en última instància, ha de ser atribuïble a algú", explica Shooter. "Avui dia, els agents d'IA no tenen una identitat clara, i els sistemes financers no tenen una manera d'entendre qui representen o qui és responsable quan alguna cosa va malament". Shooter creu que això finalment requerirà nous models d'atribució i delegació que vinculin explícitament els sistemes d'IA a entitats responsables, ja sigui a través de marcs d'autoritat delegats, credencials criptogràfics o altres mecanismes verificables. Fins que existeixi aquest enllaç, els sistemes financers autònoms seguiran restringits pel disseny. Preparing Financial Infrastructure for Autonomous Actors Preparació d'infraestructures financeres per a actors autònoms Shooter creu que la propera generació d'infraestructures financeres ha de tractar els agents d'IA com a participants de primera classe en lloc de casos d'avantguarda. Es tracta de sistemes dissenyats amb: Observació en temps real Governança unificada a través de Web1, Web2 i Web3 Límits clars d'autorització per a l'automatització Responsabilitat explícita i audibilitat Les empreses que tinguin èxit, argumenta, no seran les que automatitzin més ràpidament; seran les que invertiran en les bases necessàries per fer que l'autonomia sigui segura. "La IA canviarà la forma en què funcionen els sistemes financers", conclou Shooter. "Però sense la infraestructura adequada, exposarà les debilitats que s'han construït durant anys".
