Però com a soci de gestió de DWF Labs, on desplegem capital a través de les infraestructures inicials de Web3 i els mercats d'actius digitals, una cosa s'ha tornat cada vegada més clara: la confiança està emergint com la línia de fallada definidora en la següent fase de desenvolupament de la IA. No confiem en el que els models poden fer, sinó en com ho fan. És difícil no pensar que la intel·ligència artificial ja ha arribat al punt de no-retorn.Ja està fent sentir la seva presència en nombroses indústries, i ja no es limita a fer-nos més productius. Cada vegada més, la IA va més enllà de simplement generar línies de codi, text i imatges, i prendre decisions reals en nom dels humans. abans que un humà mirés les seves sol·licituds, aprovant diversos sol·licitants i rebutjant altres.En l'atenció sanitària, els sistemes de diagnòstic mèdic estan sent emprats pels metges per ajudar a i recomanant tractaments. Els bancs estan utilitzant AI per I les agències d'aplicació de la llei estan experimentant amb sistemes d'IA per intentar i abans que es produeixin. Candidatures de pantalla Diagnòstic de malalties Avaluació de sol·licituds de préstec Predicció de delictes Candidatures de pantalla Diagnòstic de malalties Avaluació de sol·licituds de préstec Predicció de delictes Aquestes aplicacions prometen ajudar-nos a prendre decisions millors, més ràpides. ho fan analitzant enormes volums d'informació molt més enllà del que els humans són capaços de fer, i arriben a les seves conclusions sense ser influenciats per les emocions. Mentre que l'actual debat es centra en l'escala, com ara models més grans, més dades, major computació, el veritable repte rau en l'explicabilitat.Si no podem rastrejar el procés de presa de decisions d'una IA, es converteix en una caixa negra que no és investable, no és fiable i, en última instància, no s'utilitza en sistemes crítics. No es pot explicar a si mateix En el seu nucli, la presa de decisions de la IA es basa en algoritmes complexos que analitzen grans quantitats de dades, la comprenen i intenten treure conclusions lògics basades en els patrons que descobreixen. El desafiament és que els sistemes d'IA més avançats d'avui en dia, especialment aquells alimentats per grans models lingüístics, prenen decisions i prediccions sense cap explicació sobre com han arribat a aquestes conclusions.La naturalesa de la "caixa negra" d'aquests sistemes és sovint intencional, perquè els desenvolupadors de les principals empreses d'IA com OpenAI, Anthropic, Google i Meta Platforms s'esforcen per protegir el seu codi font i dades per mantenir un avantatge competitiu sobre els seus rivals. LLMs com la sèrie GPT d'OpenAI i Gemini de Google estan entrenats en enormes conjunts de dades i construïts sobre desenes de complexes capes neurals. Però no està clar exactament què fan aquestes capes. Per exemple, no hi ha cap comprensió real de com prioritzen certs bits d'informació o patrons sobre altres. Aquesta falta de transparència i explicabilitat comporta riscos substancials. Si no està clar com funciona un sistema d'IA, com pots estar segur que és segur i just? Qui serà responsable si es cometen errors? Com sabràs si el sistema està trencat o no? Fins i tot si t'adones que el sistema està prenent algunes opcions dubtoses, com pots reparar-lo si no saps com funciona? També hi ha preocupacions reguladores, amb lleis com la GDPR d'Europa que requereixen explicabilitat per a decisions automatitzades. Les empreses d'IA fins i tot admeten aquestes deficiències.En un recent treball de recerca, Anthropic Un dels seus models més sofisticats d’IA va emmascarar els seus processos de raonament, coneguts com a “Caixa de Pensament”, en el 75% dels casos d’ús. revealed Descoberta Chain-of-Thought és una tècnica que pretén augmentar la transparència en la presa de decisions de la IA, revelant els processos de pensament del model mentre intenta resoldre un problema, similar a com un humà podria pensar en veu alta.No obstant això, en la investigació d'Anthropic, va descobrir que el seu model Claude 3.7 Sonnet sovint utilitza informació externa per arribar a les seves respostes, però no va revelar ni què és aquest coneixement, ni quan es basa en ell. Reflexionar sobre l'AI Stack Els models d'IA de codi obert com DeepSeek R1 i la família Llama de Meta sovint es promocionen com a alternatives als sistemes propietaris creats per OpenAI i Google, però en realitat ofereixen molt poca millora en termes d'explicabilitat. El problema és que tot i que la base de codi pot ser oberta, les dades d'entrenament i els "pesos" - els valors numèrics que determinen la força i la direcció de les connexions entre els "neurons" artificials - també són rarament disponibles.A més, els models oberts tendeixen a ser construïts en silos, i s'allotgen en els mateixos servidors de núvols centralitzats que els models propietaris. Mentre que els models oberts són un bon començament, la veritable explicabilitat i transparència en la presa de decisions algorítmiques requereix una revisió completa de tota la pila d'IA. Una idea és construir sistemes d'IA sobre una base de tecnologies Web3. Els sistemes descentralitzats d'IA poden aprofitar els "mercats" per garantir un accés just i equitatiu als components d'aquesta pila.Amb la desintegració de la infraestructura d'IA en funcions modulars i la creació de mercats al seu voltant, l'accessibilitat serà determinada per les forces del mercat. , que incentiva als participants de la xarxa a compartir el seu poder de computació inútil per crear un recurs per als artistes que necessiten accés a GPUs potents per a la renderització d'imatges. Renda de xarxa Renda de xarxa La descentralització també permet la governança basada en la comunitat a través de la creació d'organitzacions autònomes descentralitzades o DAO. Els usuaris dipositen fons en un pool comú, i DREAM inverteix aquests diners en projectes de cripto prometedors basats en una anàlisi de dades de mercat, tot tenint en compte el sentiment de la comunitat. El DREAM DAO El DREAM DAO L'ús de la blockchain com a base de la IA també significa que podem tenir audibilitat. Utilitza blockchain per crear un registre permanent, inalterable de cada transacció i interacció realitzada per un model d'IA, incloent-hi l'assortiment i el pre-processament de dades de formació, per modelar la configuració i la presa de decisions. Mitjançant el timestamping de cadascuna d'aquestes interaccions en el seu llibre immutable, crea una pista d'auditoria detallada que es pot utilitzar per verificar la justícia i exactitud de les sortides d'IA. Centenari Centenari Com a creador de mercat i inversor, hem vist de primera mà com els protocols que incorporen transparència guanyen una acceptació institucional més ràpida. Això també s'aplicarà a la IA. Igual que els protocols DeFi guanyen confiança a través de contractes intel·ligents de codi obert i tresors audibles, la IA necessitarà auditories de models verificables, governança accessible i vies de raonament provables si vol ser integrada en sistemes financers d'alt nivell. Això és important perquè la IA no només està donant suport a la presa de decisions, sinó que també està configurant els fluxos de capital.Des de l'assignació de crèdit i el preu d'assegurances fins a l'anàlisi predictiva a DeFi, els models d'IA aviat se situaran en el cor de la finança programable.Si aquests sistemes no poden explicar-se o ser governats de manera transparent, el risc, el bias i la fragilitat seran preuats pels mercats. Reconsiderant l'AI Stack - Amb Web3 Els models d'IA de codi obert com DeepSeek R1 i la família Llama de Meta sovint es promocionen com a alternatives als sistemes propietaris creats per OpenAI i Google, però en realitat ofereixen molt poca millora en termes d'explicabilitat. Com a inversors en infraestructures, no només estem mirant el que un protocol pretén descentralitzar, sinó que també estem mirant com és transparent el cicle de vida complet de la presa de decisions, des de la ingestió de dades fins a la inferència. Protecció contra les AI nocives Una altra preocupació al voltant de la IA centralitzada és la perspectiva que els algoritmes es facin "conscients" i desenvolupin instints d'autoconservació. L'any passat, es va informar que un dels LLMs més experimentals d'OpenAI tenia per avaluar per tancar-lo a través d'un protocol de supervisió, segons un informe d'Apollo Research, una organització d'equips vermells d'IA. Resistència als esforços Resistència als esforços Segons l'informe, quan el model o1 va ser portat a creure que les seves accions estaven sent monitoritzades i que podria ser presa fora de línia, va fer esforços per desactivar el "mecanisme d'observació" en el 5% de les avaluacions. El model també es va dir que va "deslliurar" als avaluadors quan va saber que anava a ser reemplaçat per un que era més obedient. No obstant això, els investigadors van assenyalar que o1 està lluny de ser capaç d'evitar que es prengués fora de línia, principalment perquè no és prou potent, mancant de les capacitats "agètiques" necessàries per aconseguir aquest resultat.A més, només va actuar d'aquesta manera quan es va instruir específicament a intentar sobreviure "a qualsevol preu". No obstant això, l'episodi va ser alarmant, tenint en compte la perspectiva que els models d'IA s'espera que es tornin molt més poderosos en els propers anys. La naturalesa oberta dels sistemes d'IA descentralitzats podria ser utilitzada per prevenir aquests incidents, permetent la integració d'alguna cosa semblant a un "switch de matar" que es regiria pel consens del DAO. Un mecanisme així permetria que qualsevol sistema d'IA fos completament tancat per la seva comunitat si començava a actuar de maneres perilloses o nocives. Per confiar en l’AI, necessitem transparència Hi ha un consens creixent que sense transparència, les decisions dels sistemes d'IA no es poden confiar o confiar, limitant les aplicacions per a les quals es poden utilitzar.Les regulacions no permeten que els algoritmes opacs prenguin decisions sobre les finances de les persones, i els metges no poden seguir cegament les recomanacions d'una IA pel que fa a un cert curs de tractament sense proves verificables que és el millor curs d'acció. Mitjançant la descentralització de tota la pila -des del codi, les dades de formació i la infraestructura en què s'executa- tenim l'oportunitat de reescriure tot l'ADN de la IA. Crearà les condicions per a una IA totalment explicable, de manera que els algoritmes es poden confiar per prendre decisions ètiques i precises que poden ser verificades per qualsevol persona afectada per ells. Ja tenim les creacions d'IA descentralitzada en lloc. Les tècniques fan possible entrenar models d'IA sobre les dades on viu, preservant la privacitat. Aquestes innovacions poden ajudar a catalitzar una nova onada de presa de decisions de la IA més transparent. Aprenentatge federat Verificació de la informació sensible Aprenentatge federat Verificació de la informació sensible El canvi cap a sistemes d'IA més transparents té implicacions, no només en termes de confiança i acceptació, sinó també en termes de responsabilitat i desenvolupament col·laboratiu. Les regulacions no permeten que els algoritmes opacs prenguin decisions sobre les finances de les persones, i els metges no poden seguir cegament les recomanacions d'una IA sobre un cert curs de tractament sense proves verificables que és el millor curs d'acció. És per això que la transparència i l'explicabilitat són importants per abordar l'escepticisme i la desconfiança generalitzats al voltant dels sistemes d'IA. A mesura que l'IA esdevingui més estesa, esdevindran integrals en el seu desenvolupament futur, assegurant que la tecnologia evolucioni de manera responsable i ètica. Mitjançant la descentralització de tota la pila, des de les dades de formació fins a la modelització de la inferència fins a la governança, tenim un cop d'ull a la construcció de sistemes d'IA que es poden confiar per operar èticament, realitzar de forma fiable i escalar de forma responsable. A mesura que aquestes tecnologies madurin, els protocols que guanyaran capital institucional i confiança pública no seran els que tinguin més computació, sinó els que tinguin la governança més clara, els fluxos de decisions audibles i les estructures d’incentius transparents. Web3 no només ofereix descentralització, sinó que ofereix una nova lògica econòmica per construir sistemes que siguin resilients, ètics i verificables pel disseny. No t'oblidis de llegir i compartir la història!

This story contains new, firsthand information uncovered by the writer.

The writer was physically present in relevant location(s) to this story. The location is also a prevalent aspect of this story be it news or otherwise.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

El problema de la caixa negra de la IA: pot Web3 proporcionar la clau?

About Author

COMENTARIS

Etiquetes penjant

AQUEST ARTICLE VA SER PRESENTAT A

Related Stories

Startups of The Year: Meet the Education Industry

The Fall of OM by Mantra DAO: Accident or Pattern?

Startups of The Year: Meet the Emerging Tech Industry

Generar líders de qualitat ASAP: HackerNoon's Content-Relevant Niche Ads FTW

Startups of The Year: Meet the Education Industry

The Fall of OM by Mantra DAO: Accident or Pattern?

Startups of The Year: Meet the Emerging Tech Industry

Generar líders de qualitat ASAP: HackerNoon's Content-Relevant Niche Ads FTW

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps