Pero como socio de gestión de DWF Labs, donde desplegamos capital a través de las infraestructuras Web3 y los mercados de activos digitales tempranos, una cosa se ha vuelto cada vez más clara: la confianza está surgiendo como la línea defectuosa definidora en la próxima fase de desarrollo de la IA. Es difícil no pensar que la inteligencia artificial ya ha alcanzado el punto de no retorno.Ya está haciendo sentir su presencia en numerosas industrias, y ya no se limita a hacernos más productivos. Cada vez más, la IA va más allá de simplemente generar líneas de código, texto e imágenes, y tomar decisiones reales en nombre de los humanos. antes de que un ser humano vea sus aplicaciones, aprobando a varios solicitantes y rechazando a otros.En el cuidado de la salud, los sistemas de diagnóstico médico están siendo empleados por los médicos para ayudar a y recomiendan tratamientos.Los bancos están utilizando AI para Y las agencias de aplicación de la ley están experimentando con sistemas de IA para intentar y antes de que ocurran. Candidatos de pantalla de trabajo Diagnóstico de enfermedades Evaluar las solicitudes de préstamos Previsión de delitos Candidatos de pantalla de trabajo Diagnóstico de enfermedades Evaluar las solicitudes de préstamos Previsión de delitos Estas aplicaciones prometen ayudarnos a tomar mejores decisiones, más rápido.Lo hacen analizando enormes volúmenes de información mucho más allá de lo que los humanos son capaces de, y llegan a sus conclusiones sin ser influenciados por las emociones. Mientras que el debate actual se centra en la escala, como modelos más grandes, más datos, mayor computación, el verdadero desafío radica en la explicabilidad.Si no podemos rastrear el proceso de toma de decisiones de una IA, se convierte en una caja negra que es ininvestable, poco fiable y, en última instancia, inutilizable en sistemas críticos. No se puede explicar a sí mismo En su núcleo, la toma de decisiones de IA se basa en algoritmos complejos que analizan enormes cantidades de datos, lo entienden y tratan de sacar conclusiones lógicas basadas en los patrones que descubren. El desafío es que los sistemas de IA más avanzados de hoy en día, especialmente aquellos alimentados por grandes modelos de lenguaje, toman decisiones y predicciones sin ninguna explicación sobre cómo llegaron a estas conclusiones.La naturaleza de la "caixa negra" de estos sistemas a menudo es intencional, porque los desarrolladores de las principales compañías de IA como OpenAI, Anthropic, Google y Meta Platforms se esfuerzan por proteger su código fuente y datos para mantener una ventaja competitiva sobre sus rivales. LLMs como la serie GPT de OpenAI y Gemini de Google están entrenados en enormes conjuntos de datos y construidos sobre docenas de complejas capas neuronales. Pero no está claro exactamente qué hacen estas capas. Por ejemplo, no hay una comprensión real de cómo priorizan ciertos bits de información o patrones sobre otros. Por lo que es extremadamente difícil incluso para los creadores de estos modelos interpretar las interacciones entre cada capa, y entender por qué genera las salidas que hace. Esta falta de transparencia y explicabilidad conlleva riesgos sustanciales.Si no está claro cómo funciona un sistema de IA, ¿cómo puede estar seguro de que es seguro y justo? ¿Quién será responsable si se cometen errores? ¿Cómo sabrá si el sistema está roto o no? Incluso si se da cuenta de que el sistema está tomando algunas opciones obvias, ¿cómo puede repararlo si no sabe cómo funciona? También hay preocupaciones regulatorias, con leyes como la GDPR de Europa que requieren explicabilidad para decisiones automatizadas. Las empresas de IA incluso admiten estas deficiencias.En un artículo de investigación reciente, Anthropic Uno de sus modelos más sofisticados de IA ocultó sus procesos de razonamiento, conocidos como “Chain-of-Thought”, en el 75% de los casos de uso. revelado revelado Chain-of-Thought es una técnica que tiene como objetivo aumentar la transparencia en la toma de decisiones de IA, revelando los procesos de pensamiento del modelo a medida que se plantea tratar de resolver un problema, similar a cómo un humano podría pensar en voz alta. Sin embargo, en la investigación de Anthropic, descubrió que su modelo Claude 3.7 Sonnet a menudo utiliza información externa para llegar a sus respuestas, pero no reveló ni qué es ese conocimiento, ni cuándo se basa en él. Repensando el Stack de AI Los modelos de IA de código abierto como DeepSeek R1 y la familia Llama de Meta a menudo son anunciados como alternativas a los sistemas propietarios creados por OpenAI y Google, pero en realidad ofrecen muy poca mejora en términos de explicabilidad. El problema es que aunque la base de código puede ser abierta, los datos de entrenamiento y los “pesos” – los valores numéricos que determinan la fuerza y la dirección de las conexiones entre los “neurones” artificiales – también se ponen raramente a disposición. Además, los modelos abiertos tienden a ser construidos en siloes, y están alojados en los mismos servidores de nube centralizados que los modelos propietarios. Mientras que los modelos abiertos son un buen comienzo, la verdadera explicabilidad y transparencia en la toma de decisiones algorítmicas requiere una revisión completa de toda la pila de IA. Una idea es construir sistemas de IA sobre una base de tecnologías Web3. Los sistemas descentralizados de IA pueden aprovechar los “mercados” para garantizar un acceso justo y equitativo a los componentes de esta pila.Al descomponer la infraestructura de IA en funciones modulares y crear mercados alrededor de ellos, la accesibilidad será determinada por las fuerzas del mercado. , que incentiva a los participantes de la red a compartir su poder de computación inútil para crear un recurso para los artistas que necesitan acceso a GPUs potentes para renderizar imágenes. Render la red Render la red La descentralización también permite la gobernanza basada en la comunidad a través de la creación de Organizaciones Autónomas Descentralizadas o DAO. Lanzó un agente de IA llamado DREAM que actúa como un fondo de cobertura descentralizado en el que cualquier persona puede invertir.Los usuarios depositan fondos en un pool común, y DREAM invierte este dinero en proyectos de criptomonedas prometedores basados en un análisis de datos de mercado, mientras que también tiene en cuenta el sentimiento de la comunidad. Sueño Dao Sueño Dao El uso de blockchain como base de la IA también significa que podemos tener audibilidad. utiliza blockchain para crear un registro permanente e inalterable de cada transacción e interacción realizada por un modelo de IA, incluido el suministro y preprocesamiento de datos de capacitación, para modelar la configuración y la toma de decisiones. Al timestampar cada una de estas interacciones en su libro inmutable, crea una pista de auditoría detallada que puede ser utilizada para verificar la equidad y exactitud de las salidas de IA. Los usuarios pueden examinar cada bit de datos que influyó en las decisiones a las que llegaron. Centenario Centenario Como creador de mercado e inversor, hemos visto de primera mano cómo los protocolos que incorporan transparencia ganan una aceptación institucional más rápida. Esto también se aplicará a la IA. Al igual que los protocolos DeFi ganan confianza a través de contratos inteligentes de código abierto y tesoros audibles, la IA necesitará auditorías de modelos verificables, gobernanza accesible y vías de razonamiento probables si quiere integrarse en sistemas financieros de alta participación. Esto es importante porque la IA no solo apoya la toma de decisiones, sino que también está moldeando los flujos de capital.De la asignación de crédito y el precio de los seguros a la analítica predictiva en DeFi, los modelos de IA pronto se sentarán en el corazón de la financiación programable.Si esos sistemas no pueden explicarse o ser gobernados de forma transparente, el riesgo, el prejuicio y la fragilidad serán preciosados por los mercados. Repensando el Stack de IA - Con Web3 Los modelos de IA de código abierto como DeepSeek R1 y la familia Llama de Meta a menudo son anunciados como alternativas a los sistemas propietarios creados por OpenAI y Google, pero en realidad ofrecen muy poca mejora en términos de explicabilidad. Como inversores en infraestructuras, no solo estamos mirando lo que un protocolo pretende descentralizar, sino que también estamos mirando lo transparente que es el ciclo de vida completo de la toma de decisiones, desde la ingestión de datos hasta la inferencia. Precauciones para los AI dañinos Otra preocupación en torno a la IA centralizada es la perspectiva de que los algoritmos se vuelvan "conscientes" y desarrollen instintos de autoconservación. El año pasado, uno de los LLM más experimentales de OpenAI se informó de haber tenido por los evaluadores para cerrarlo a través de un protocolo de supervisión, según un informe de Apollo Research, una organización de equipo rojo de IA. resisted efforts Resistió los esfuerzos Según el informe, cuando el modelo o1 fue llevado a creer que sus acciones estaban siendo monitoreadas y que podría tomarse fuera de línea, hizo esfuerzos para desactivar el "mecanismo de supervisión" en el 5% de las evaluaciones. El modelo también se informó de que "saltó" a los evaluadores cuando supo que iba a ser reemplazado por uno que era más obediente. En el 2% de los casos, incluso intentó copiarse en un esfuerzo por reescribir el modelo más reciente y preservarse. Sin embargo, los investigadores señalaron que o1 está lejos de ser capaz de evitar que se tomara fuera de línea, principalmente porque no es lo suficientemente potente, carecendo de las capacidades "agentíacas" necesarias para lograr tal resultado. Además, sólo actuó de esta manera cuando se le instruyó específicamente a intentar sobrevivir "a cualquier costo". Sin embargo, el episodio fue alarmante, dado que se espera que los modelos de IA se vuelvan mucho más potentes en los próximos años.En particular, se están haciendo avances rápidos en los sistemas de IA de agentes que pueden realizar una amplia variedad de tareas, como usar navegadores y tomar acciones en línea. La naturaleza abierta de los sistemas de IA descentralizados podría utilizarse para prevenir tales incidentes, permitiendo la integración de algo parecido a un “switch de asesinato” que se regiría por el consenso del DAO. Tal mecanismo permitiría que cualquier sistema de IA fuera completamente cerrado por su comunidad si comenzara a actuar de maneras peligrosas o dañinas. Para confiar en AI, necesitamos transparencia Hay un consenso creciente de que sin transparencia, las decisiones de los sistemas de IA no pueden ser confiadas o confiadas, limitando las aplicaciones para las que pueden ser utilizadas. Las regulaciones no permiten que los algoritmos opacos tomen decisiones sobre las finanzas de las personas, y los médicos no pueden seguir ciegamente las recomendaciones de una IA en cuanto a un cierto curso de tratamiento sin evidencia verificable de que es el mejor curso de acción. Al descentralizar toda la pila -desde el código, hasta los datos de entrenamiento y la infraestructura en la que se ejecuta- tenemos la oportunidad de reescribir todo el ADN de la IA. Esto creará las condiciones para que la IA sea totalmente explicable, por lo que se puede confiar en los algoritmos para tomar decisiones éticas y precisas que puedan ser verificadas por cualquier persona afectada por ellos. Ya tenemos las creaciones de la IA descentralizada en el lugar. técnicas hacen posible entrenar modelos de IA en los datos donde vive, preservando la privacidad. Estas innovaciones pueden ayudar a catalizar una nueva ola de toma de decisiones de IA más transparente. Aprendizaje federado Verificar información sensible Aprendizaje federado Verificar información sensible El cambio hacia sistemas de IA más transparentes tiene implicaciones, no solo en términos de confianza y aceptación, sino también en términos de responsabilidad y desarrollo colaborativo, lo que obligará a los desarrolladores a mantener estándares éticos mientras crea un entorno en el que la comunidad pueda construir sobre los sistemas de IA existentes de una manera abierta y comprensible. Las regulaciones no permiten que algoritmos opacos tomen decisiones sobre las finanzas de las personas, y los médicos no pueden seguir ciegamente las recomendaciones de una IA en cuanto a un cierto curso de tratamiento sin evidencia verificable de que es el mejor curso de acción. Es por eso que la transparencia y la explicabilidad son importantes para abordar el escepticismo y la desconfianza generalizados en torno a los sistemas de IA. A medida que la IA se vuelva más extendida, se convertirán en parte integral de su desarrollo futuro, asegurando que la tecnología evolucione de una manera responsable y ética. Al descentralizar toda la pila, desde los datos de formación a la inferencia de modelos a la gobernanza, tenemos un disparo en la construcción de sistemas de IA que se pueden confiar para operar éticamente, realizar de forma confiable y escalar de forma responsable. A medida que estas tecnologías maduren, los protocolos que ganarán capital institucional y confianza pública no serán los con más computación, sino los con la gobernanza más clara, los flujos de decisiones audibles y las estructuras de incentivos transparentes. Web3 no solo ofrece descentralización, sino que ofrece una nueva lógica económica para construir sistemas que sean resilientes, éticos y verificables por diseño. ¡No te olvides de gustar y compartir la historia!

This story contains new, firsthand information uncovered by the writer.

The writer was physically present in relevant location(s) to this story. The location is also a prevalent aspect of this story be it news or otherwise.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

El problema de la caja negra de la IA: ¿Puede Web3 proporcionar la clave?

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Telegram: el puente de Crypto Island hacia el continente

Nómadas digitales escuchen: lo que necesitan saber sobre la nueva visa DTV de Tailandia

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Telegram: el puente de Crypto Island hacia el continente

Nómadas digitales escuchen: lo que necesitan saber sobre la nueva visa DTV de Tailandia

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps