Pero como socio xestor de DWF Labs, onde desplegamos capital a través da infraestrutura Web3 e os mercados de activos dixitais, unha cousa volveuse cada vez máis clara: a confianza está emerxendo como a liña de fallo definidora na próxima fase de desenvolvemento da IA. É difícil non pensar que a intelixencia artificial xa alcanzou o punto de non retorno.Xa está a facer sentir a súa presenza en numerosas industrias, e xa non se limita a simplemente facernos máis produtivos. Cada vez máis, a IA vai máis aló de simplemente xerar liñas de código, texto e imaxes, e tomar decisións reais en nome dos humanos. antes de que un ser humano vexa as súas aplicacións, aprobando a varios solicitantes e rexeitando a outros. e recomendando tratamentos.Os bancos están a usar AI para E as axencias de aplicación da lei están experimentando con sistemas de IA para tentar e antes de que ocorran. Candidatos á pantalla de emprego Diagnóstico de enfermidades assess loan applications Previsións de delitos Candidatos á pantalla de emprego Diagnóstico de enfermidades Avaliación de aplicacións de préstamos Previsións de delitos Estas aplicacións prometen axudarnos a tomar mellores decisións, máis rápido.Fan isto analizando enormes volumes de información moito máis aló do que os humanos son capaces, e chegan ás súas conclusións sen ser influenciados polas emocións. Mentres o debate actual está centrado na escala, como modelos máis grandes, máis datos, maior computación, o verdadeiro desafío reside na explicabilidade. Se non podemos rastrexar o proceso de toma de decisións dunha IA, convértese nunha caixa negra que é pouco investible, pouco fiable e, en última instancia, inutilizable en sistemas críticos. Non se pode explicar a si mesmo No seu núcleo, a toma de decisións de IA depende de algoritmos complexos que analizan grandes cantidades de datos, enténdeno e intentan sacar conclusións lóxicas baseadas nos patróns que descobren. O desafío é que os sistemas de IA máis avanzados hoxe en día, especialmente aqueles alimentados por grandes modelos de linguaxe, toman decisións e predicións sen ningunha explicación sobre como chegaron a estas conclusións.A natureza da "caixa negra" destes sistemas é a miúdo intencional, porque os desenvolvedores de empresas líderes de IA como OpenAI, Anthropic, Google e Meta Platforms se esforzan por protexer o seu código fonte e datos para manter unha vantaxe competitiva sobre os seus rivais. LLMs como a serie GPT de OpenAI e os Gemini de Google están adestrados en grandes conxuntos de datos e construídos en decenas de complexas capas neurais. Pero non está claro exactamente o que estas capas "facen". Por exemplo, non hai unha comprensión real de como priorizan certos bits de información ou patróns sobre outros. Entón é extremadamente difícil para os creadores destes modelos interpretar as interaccións entre cada capa e entender por que xera as saídas que fai. Esta falta de transparencia e explicabilidade leva consigo riscos substanciais. Se non está claro como funciona un sistema de IA, como podes estar seguro de que é seguro e xusto? Quen será responsable se se cometen erros? Como saberás se o sistema está roto ou non? Aínda que realices que o sistema está a facer algunhas opcións dubidosas, como podes reparalo se non sabes como funciona? Hai preocupacións regulatorias tamén, con leis como o GDPR de Europa que requiren explicabilidade para as decisións automatizadas. As empresas de IA mesmo admiten estas carencias.Nun recente traballo de investigación, Anthropic Un dos seus modelos máis sofisticados de IA ocultaba os seus procesos de razoamento, coñecidos como "Cadea de Pensamento", no 75% dos casos de uso. revelado revelado Chain-of-Thought é unha técnica que ten como obxectivo aumentar a transparencia na toma de decisións de IA, revelando os procesos de pensamento do modelo ao intentar resolver un problema, similar a como un humano podería pensar en voz alta. Con todo, na investigación de Anthropic, descubriu que o seu modelo Claude 3.7 Sonnet moitas veces usa información externa para chegar ás súas respostas, pero non revelou nin o que é ese coñecemento, nin cando se basea nel. Como resultado, os creadores non teñen forma de explicar como chegou á maioría das súas conclusións. Repensando o Stack AI Os modelos de IA de código aberto como DeepSeek R1 e a familia Llama de Meta adoitan ser promocionados como alternativas aos sistemas propietarios creados por OpenAI e Google, pero na realidade ofrecen moi pouca mellora en termos de explicabilidade. O problema é que, aínda que a base de código poida ser aberta, os datos de adestramento e os "pesos" -os valores numéricos que determinan a forza e a dirección das conexións entre os "neuróns" artificiais- tamén son raramente dispoñibles.Ademais, os modelos abertos tenden a ser construídos en silos, e están aloxados nos mesmos servidores de nube centralizados que os modelos propietarios. Mentres que os modelos abertos son un bo comezo, a verdadeira explicabilidade e transparencia na toma de decisións algorítmicas require unha revisión completa de toda a pila de IA. Unha idea é construír sistemas de IA sobre unha base de tecnoloxías Web3. Os sistemas descentralizados de IA poden aproveitar "mercados" para garantir un acceso xusto e equitativo aos compoñentes desta pila. Ao desintegrar a infraestrutura de IA en funcións modulares e crear mercados ao seu redor, a accesibilidade será determinada polas forzas do mercado. , que incentiva aos participantes da rede a compartir o seu poder de computación inútil para crear un recurso para os artistas que necesitan acceso a GPUs poderosos para a renderización de imaxes. Renda Rede Renda Rede A descentralización tamén permite a gobernanza baseada na comunidade a través da creación de Organizacións Autónomas Descentralizadas ou DAO. lanzou un axente de IA chamado DREAM que actúa como un fondo de cobertura descentralizado no que calquera pode investir.Os usuarios depositan fondos nun pool común, e DREAM inviste este diñeiro en proxectos de criptografía prometedores baseados nunha análise de datos de mercado, ao mesmo tempo que tamén ten en conta o sentimento da comunidade.Demonstrou como a IA pode optimizar os investimentos mentres asegura que as súas decisións financeiras estean en liña cos obxectivos da comunidade. soño dao soño dao O uso de blockchain como unha base de IA tamén significa que podemos ter auditoría. usa blockchain para crear un rexistro permanente e inalterable de cada transacción e interacción realizada por un modelo de IA, incluíndo a adquisición e pre-procesamento de datos de formación, para modelar a configuración e toma de decisións. Ao timestamp cada unha destas interaccións no seu rexistro inmutable, crea unha pista de auditoría detallada que se pode usar para verificar a equidade e exactitude das saídas de IA. Os usuarios poden examinar cada bit de datos que influíu nas decisións ás que chegaron. Dcentaxe Dcentaxe Como creador de mercado e investidor, vimos de primeira man como os protocolos que incorporan transparencia gañan unha aceptación institucional máis rápida.Isto aplicarase tamén á IA. Do mesmo xeito que os protocolos DeFi gañan confianza a través de contratos intelixentes de código aberto e tesouros auditables, a IA necesitará auditorías de modelos verificables, gobernanza accesible e vías de razoamento probables se quere ser integrada nos sistemas financeiros de alta participación. Isto importa porque a IA non só apoia a toma de decisións, senón que tamén está a modelar os fluxos de capital.Desde a asignación de créditos e os prezos dos seguros ata a análise predictiva en DeFi, os modelos de IA pronto se sentarán no corazón da financiación programable.Se eses sistemas non se poden explicar ou gobernar de forma transparente, o risco, o prexuízo e a fraxilidade serán prezados polos mercados. Repensando o Stack de IA - Con Web3 Os modelos de IA de código aberto como DeepSeek R1 e a familia Llama de Meta adoitan ser promocionados como alternativas aos sistemas propietarios creados por OpenAI e Google, pero na realidade ofrecen moi pouca mellora en termos de explicabilidade. Como investidores en infraestruturas, non estamos só mirando o que un protocolo afirma descentralizar, estamos tamén mirando o quão transparente é o ciclo de vida completo da toma de decisións, desde a inxestión de datos ata a inferencia. Protección contra os danos causados Outra preocupación ao redor da IA centralizada é a perspectiva de que os algoritmos se volvan "conscientes" e desenvolvan instintos de autoconservación. O ano pasado, un dos LLMs máis experimentais de OpenAI foi informado de ter por avaliadores para pechalo a través dun protocolo de supervisión, segundo un informe de Apollo Research, unha organización de equipo vermello de IA. resisted efforts Resistencia aos esforzos Segundo o informe, cando o modelo o1 foi levado a crer que as súas accións estaban sendo monitorizadas e que podería ser tomado fóra de liña, fixo esforzos para desactivar o "mecanismo de supervisión" no 5% das avaliacións. O modelo tamén se informou de que "esvarou" nos avaliadores cando soubo que ía ser substituído por un que era máis obediente. Non obstante, os investigadores observaron que o1 está lonxe de ser capaz de evitar que se tomase fóra de liña, principalmente porque non é o suficientemente poderoso, carecendo das capacidades "axentes" necesarias para lograr tal resultado.Ademais, só actuou deste xeito cando se lle instruíu especificamente a tentar sobrevivir "a todo custo". Non obstante, o episodio foi alarmante, tendo en conta a perspectiva de que os modelos de IA sexan moito máis poderosos nos próximos anos.En particular, están a realizarse avances rápidos en sistemas de IA axentes que poden realizar unha ampla variedade de tarefas, como usar navegadores e tomar accións en liña. A natureza aberta dos sistemas de IA descentralizados podería usarse para previr tales incidentes, permitindo a integración de algo semellante a un "switch de matar" que sería gobernado polo consenso DAO. Tal mecanismo permitiría que calquera sistema de IA fose completamente pechado pola súa comunidade se comezase a actuar de maneiras perigosas ou prexudiciais. Para confiar en AI, necesitamos transparencia Hai un consenso crecente de que sen transparencia, as decisións dos sistemas de IA non poden ser confiadas ou confiadas, limitando as aplicacións para as que poden ser usadas.As regulacións non permiten que algoritmos opacos tomen decisións sobre as finanzas das persoas, e os médicos non poden seguir cegamente as recomendacións dunha IA sobre un certo curso de tratamento sen probas verificables de que é o mellor curso de acción. Ao descentralizar toda a pila -desde o código, aos datos de adestramento e á infraestrutura na que se executa- temos a oportunidade de reescribir todo o ADN da IA. Creará as condicións para que a IA sexa totalmente explicable, de xeito que os algoritmos poidan ser fiables para tomar decisións éticas e precisas que poidan ser verificadas por calquera persoa afectada por eles. Xa temos as creacións de IA descentralizada no lugar. técnicas fan posible adestrar modelos de IA en datos onde vive, preservando a privacidade. Estas innovacións poden axudar a catalizar unha nova onda de toma de decisións de IA máis transparente. Aprendizaxe federada Comprobar información sensible Aprendizaxe federada Comprobar información sensible O cambio cara a sistemas de IA máis transparentes ten implicacións, non só en termos de confianza e aceptación, senón tamén de responsabilidade e desenvolvemento colaborativo.Forzará aos desenvolvedores a manter estándares éticos ao mesmo tempo que crea un ambiente onde a comunidade poida construír sobre os sistemas de IA existentes dun xeito aberto e comprensible. As regulacións non permiten que os algoritmos opacos tomen decisións sobre as finanzas das persoas, e os médicos non poden seguir cegamente as recomendacións dunha IA sobre un certo curso de tratamento sen probas verificables de que é o mellor curso de acción. É por iso que a transparencia e a explicabilidade son importantes para abordar o escepticismo e a desconfianza xeneralizados en torno aos sistemas de IA. A medida que a IA se torne máis estendida, serán integrantes do seu desenvolvemento futuro, garantindo que a tecnoloxía evolucione dun xeito responsable e ético. Ao descentralizar toda a pila, desde os datos de formación ata a inferencia de modelos ata a gobernanza, temos un disparo na construción de sistemas de IA que se poden confiar para operar de forma ética, realizar de forma fiable e escalar de forma responsable. A medida que estas tecnoloxías maduren, os protocolos que gañarán capital institucional e confianza pública non serán os con máis computación, senón os con gobernanza máis clara, fluxos de decisións audibles e estruturas de incentivos transparentes. Web3 non só ofrece descentralización, ofrece unha nova lóxica económica para construír sistemas que sexan resilientes, éticos e verificables polo deseño. Non esquezas gustar e compartir a túa historia!

This story contains new, firsthand information uncovered by the writer.

The writer was physically present in relevant location(s) to this story. The location is also a prevalent aspect of this story be it news or otherwise.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

O problema da caixa negra da IA: ¿Pode Web3 proporcionar a clave?

About Author

COMENTARIOS

Etiquetas colgantes

ESTE ARTIGO FOI PRESENTADO EN

Related Stories

HackerNoon Decoded 2024: Celebrating Our Tech Companies Community!

HackerNoon Decoded 2024: Celebrating Our Media Community!

HackerNoon Decoded 2024: Celebrating Our Management Community!

HackerNoon Decoded 2024: Celebrating Our HackerNoon Community!

HackerNoon Decoded 2024: Celebrating Our Tech Companies Community!

HackerNoon Decoded 2024: Celebrating Our Media Community!

HackerNoon Decoded 2024: Celebrating Our Management Community!

HackerNoon Decoded 2024: Celebrating Our HackerNoon Community!

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps