TLDR; Este artículo explora el sorprendente potencial creativo de las alucinaciones de IA en modelos de IA generativos como DALL·E. Aunque generalmente se ven como defectos en el aprendizaje profundo, estos “erros” pueden producir brillo artístico inesperado. Al comparar la imaginación humana con la lógica basada en patrones de IA, la pieza pregunta si las falsedades de IA podrían ser realmente un nuevo tipo de creatividad. Las alucinaciones Modelos Generativos Aprendizaje profundo Inteligencia artificial What Does It Mean for AI to “Hallucinate”? ¿Qué significa para la IA “halucinar”? El término Según el Oxford Advanced Learner’s Dictionary, una alucinación es: alucinaciones 
 
 "El hecho de parecer ver o oír a alguien / algo que no está realmente allí, especialmente debido a la enfermedad o las drogas." "El hecho de parecer ver o oír a alguien / algo que no está realmente allí, especialmente debido a la enfermedad o las drogas." En otras palabras, las alucinaciones suelen estar asociadas con percepciones falsas, algo que hay que temer o fijar. En el mundo de la IA generativa, el significado no es tan diferente.Cuando se dice que un LLM (Large Language Model) como ChatGPT o el modelo de IA generativo como DALL-E “hallucina”, significa que ha producido Las implicaciones de esto son serias: sugiere que nunca podemos confiar plenamente en el modelo.Los riesgos potenciales? hechos engañosos, consejos peligrosos o software roto. Información falsa o engañosa Información falsa o engañosa When Hallucination Goes Too Far Cuando las alucinaciones van demasiado lejos Vamos a empezar con el lado oscuro. Imagina que estás planeando una noche romántica en una ciudad que nunca has visitado. Pides a ChatGPT que recomiende un restaurante y elija entre una lista prometedora de lugares. Pero cuando llegas -todos vestidos- descubres que el restaurante no existe en la ubicación especificada. Además, no existe en ninguna ubicación. ¿Es cierto? pero es un ejemplo relativamente inofensivo. Ahora considere los escenarios más perjudiciales: 
 
 
 
 
 La desinformación médica conduce a diagnósticos y tratamientos incorrectos. Inexactitudes históricas que costaron a un estudiante su grado. Errores de código que destruyen sistemas enteros. Disfunciones de conducción autónoma debido a interpretaciones defectuosas. Las alucinaciones de IA no son sólo efectos secundarios ficticios; pueden tener . real-world consequences The Pentagon That Wasn’t El Pentágono que no Hace dos años, una cuenta verificada de Twitter (ahora X) publicó un La foto mostró una nube de humo al lado de un edificio en forma de El tuit se volvió viral y desencadenó una rápida reacción del mercado: el Dow Jones cayó 85 puntos en sólo cuatro minutos. Imagen de una explosión El Pentágono Aquí está el picle - la imagen era falsa. Aquí está el picle - la imagen era falsa. La imagen probablemente fue generada por la IA, y la explosión nunca ocurrió. . the financial damage had already been done No está claro si fue un mensaje ordenado por el hombre el que creó esa imagen o una alucinación de un modelo, pero de alguna manera el resultado fue el mismo. When Bots Make Up Policy Cuando los robots hacen política Más recientemente, Se produjo indignación: los usuarios se quejaron, algunos incluso cancelaron sus suscripciones. El bot de soporte de IA de Cursor informó a los usuarios de que la herramienta ya no podía usarse en más de una máquina Sólo había un problema: . it wasn’t true El CEO de Cursor más tarde aclaró: “No tenemos tal política. por supuesto, usted es libre de usar Cursor en múltiples máquinas.” ¿Quién fue el responsable, usted pregunta? “Desafortunadamente, esta es una respuesta incorrecta de un bot de soporte de inteligencia artificial de primera línea.” Así que básicamente, AI había inventado una política fuera del aire. The Courtroom Catastrophe El desastre de la Corte Tal vez el ejemplo más notorio: t El modelo citado Los abogados, sin saberlo, los presentaron a un juez federal.El resultado? sanciones, multas y vergüenza pública. donde los abogados usaron ChatGPT para ayudar a redactar un resumen legal completely fabricated legal cases El juez declaró que habían “abandonado sus responsabilidades” y continuaron apoyándose en las falsas citas incluso después de ser interrogados. Can a Hallucination Be… Good? ¿Puede una alucinación ser... buena? Estos ejemplos confirman una conclusión: Cada salida debe ser duplicada, no importa cuán convincente y confiada pueda sonar. AI cannot be trusted blindly ¿Puedes confiar plenamente en los humanos? ¿Puedes confiar plenamente en los humanos? ¿Y si miramos las alucinaciones desde otro ángulo? Una de las mentes más visionarias en la historia de la tecnología - alguien que literalmente ayudó a dar forma al mundo en el que vivimos - también era conocida por abrazar la alucinación. Steve Jobs, el icónico cofundador de Apple, abiertamente acreditó a las drogas psicodélicas como el LSD por expandir su pensamiento creativo. Jobs no estaba impulsado por la convención, estaba impulsado por la imaginación.Ama o odia, nadie puede negar la escala de su impacto.No sólo construyó productos, sino que curvó la realidad para que coincidiera con su visión.Y si la percepción alterada jugó un papel en ese proceso, ¿no deberíamos reconsiderar lo que queremos decir cuando decimos que una idea -o una imagen- es “hallucinada”? Jobs, LSD, and Creativity Trabajo, LSD y creatividad Steve Jobs atribuyó abiertamente sus avances creativos a experiencias psicodélicas.En la biografía de Walter Isaacson Y él dice: Steve Jobs 
 
 “Tomar LSD fue una experiencia profunda, una de las cosas más importantes en mi vida. El LSD te muestra que hay otro lado de la moneda, y no puedes recordarlo cuando se desgasta, pero lo sabes. “Tomar LSD fue una experiencia profunda, una de las cosas más importantes en mi vida. LSD te muestra que hay otro lado de la moneda, y no puedes recordarlo cuando se desgasta, pero lo sabes. (Página 37, Capítulo: “La caída”) Si una alucinación puede ayudar a un ser humano a ver el mundo de manera diferente, ¿podría una alucinación de IA servir al mismo propósito? When Hallucination Becomes a Creative Compass Cuando las alucinaciones se convierten en una búfala creativa ¿Puede la alucinación, cuando se coloca en el contexto correcto, ser más que un defecto? En áreas donde la precisión es secundaria a la visión, como el arte, la narración o el diseño, tal vez no estamos mirando a un error, sino a una característica inesperada. Imaginación , Exploré cómo las llamadas alucinaciones de DALL-E transformaron los dibujos de niños en ilustraciones vibrantes y completas.La IA llenó los vacíos no con hechos, sino con flair - interpretando en lugar de replicar. En mi artículo anterior Pero, ¿podemos ir más allá? Pero, ¿podemos ir más allá? Como artista, conozco el peso de un bloque creativo. Se escapa silenciosamente, luego permanece más tiempo de lo que debería.Cuanto más intentes forzar la originalidad, más tus ideas se vuelven a los mismos patrones familiares - seguros, predecibles y sin inspiración. ¿Qué pasa si la IA generativa no es sólo una herramienta, sino una especie de No para reemplazar la imaginación humana, sino para sacudirla.Para sugerir caminos que nunca caminaríamos solos.Tal vez, en el espacio entre precisión y error, encontramos algo mejor: Medicina Creativa surprise. Logic Is Your Enemy La lógica es tu enemigo Nuestras mentes están cerradas para . Cuando vemos un castillo, nos imaginamos una princesa. un perro? probablemente persiguiendo una pelota. un bebé? abrazando a un oso. coherencia Este reconocimiento automático de patrones es increíblemente útil para la vida diaria: nos ayuda a navegar por el mundo de manera rápida y eficiente. En el cerebro, las cajas Nuestro potencial creativo. boxes limit The Categorisation Trap: Your Brain Loves a Story La trampa de la categorización: tu cerebro ama una historia Veamos las siguientes tarjetas: Ahora imagínate que te pido agruparlos en 3 categorías iguales.La mayoría de las mentes verían de inmediato esto: 
 
 
 
 Un cielo nocturno con la luna, una nube y una estrella Una escena de fiesta de té con una mesa, un trozo de pastel, y tal vez una taza de té Un bosque con una zorra, un árbol y un hongo Usted podría añadir variación - tal vez su zorra está sniffing el hongo, o tal vez si usted es más creativo que la persona promedio, está sentado junto a un fuego de campamento, gritando en un bastón. El contexto nos encerra en un marco. we still stick to the script Y cuando todos trabajan desde el mismo marco... la singularidad muere un poco. Breaking the Context (on purpose) Quebrar el contexto (en sentido opuesto) Ahora lo rompamos. Dejemos de lado lo esperado y echemos a nuestros instintos lógicos por la ventana. Imagínese este grupo en su lugar: Vamos a desafiar la lógica a favor de la creatividad ilimitada. 
 
 
 
 
 
 A moon 
 
 A fox 
 
 A table Tu cerebro acaba de pararse, ¿no es así? Probablemente no pudieras crear una visual.O si lo hicieras, se sentía desarticulado, absurdo, incluso incómodo. Pero adivinen lo que no lucha? generación AI, por supuesto. En su lugar, presentamos el siguiente grupo: Y ahora, disfrutemos de la ilimitada imaginación de DALL-E 3. Starts Celebrating Birthday with a Mushroom Cake Comienza la celebración del cumpleaños con una tarta de hongo Tree Drinking Tea inside a Cloud Un árbol bebe té dentro de una nube Fox and Moon Tea Party Fox y Luna Tea Party Free from Human Logic Libre de la lógica humana DALL-E fue capaz de mezclar fácilmente conceptos que nunca coinciden en el mundo real (hallucinaciones). ¿Por qué hay tanta diferencia entre nuestra mente y su pensamiento? Los seres humanos tienen la razón basada en Cuando se le pide que imagine una escena que involucre a una luna, una zorra y una mesa, nuestro cerebro intenta instintivamente Nuestras mentes buscan lógica, contexto o metáfora, y cuando no podemos encontrar una, a menudo nos paramos o desistimos. No la aleatoriedad. meaning, coherence, and lived experience make sense of the combination optimised for relevance DALL-E, por otro lado, no se basa en la memoria personal ni en la lógica lineal. Exponerlo a Muchos de ellos son inusuales o incluso surreales.Por lo tanto, cuando lo prometes con elementos no relacionados como una luna, una zorra y una mesa, no duda ni cuestiona si la conexión “tiene sentido”. Cómo aparecen estos objetos Incluso de forma indirecta. billions of images and captions countless visual combinations - statistical patterns together, near each other, or in similar visual contexts En otras palabras: 
 
 
 Las personas necesitan coherencia. DALL-E sólo necesita correlación. Y ahí está su poder: al estar libre de la necesidad humana de lógica o de coherencia interna, DALL-E puede Todo sin adivinarse a sí mismo. confidently generate the absurd, the poetic, or the beautifully strange - A Human’s Muse La musa de un hombre Nos han enseñado a tener miedo a las alucinaciones - con razón en muchos ámbitos.En la medicina, el derecho, la historia y los sistemas críticos de seguridad, la IA debe mantenerse a un nivel más alto de verdad.Pero en el arte, el diseño y la imaginación? La misma “falsa” que hace que la IA no sea fiable como fuente de hechos podría ser lo que la hace tan poderosa como una La alucinación, en las manos derechas, se convierte en algo completamente diferente: . creative companion a spark Cuando DALL-E “entendió mal” a una zorra, a una luna y a una mesa, no falla. Nos invita a liberar nuestro apego a la lógica, a ver qué sucede cuando dejamos de lado la narración y abrazamos la posibilidad. dares Este fenómeno puede curar el bloqueo de un artista al ayudar a nuestra mente a relajar el contexto y la lógica, puede estimular la creatividad y desencadenar ideas que podrían haber estado más allá de nuestro alcance. Así que tal vez la verdadera pregunta no sea “¿Podemos detener a la IA de alucinar?” 
 
 Quizás sea: ¿Qué podemos construir cuando lo dejamos soñar? Quizás sea: ¿Qué podemos construir cuando lo dejamos soñar? Sobre mí Sobre mí Soy Maria Piterberg - una experta en IA que dirige el equipo de software Runtime en Habana Labs (Intel) y una artista semi-profesional que trabaja en medios tradicionales y digitales.

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

Read My Stories

Este audio es producido en el idioma original de la historia!

Demasiado Largo; Para Leer

Boost your HackerNoon story @ $159.99! 🚀

Bienvenido al museo de las alucinaciones

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

Navegando por las aguas: desarrollo de aplicaciones RAG de nivel de producción con lagos de datos

Aumente su productividad con estas 18 herramientas para desarrolladores 🚀🔥

El modelo Bitcoin UTXO, impulsando un ecosistema único

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

Navegando por las aguas: desarrollo de aplicaciones RAG de nivel de producción con lagos de datos

Aumente su productividad con estas 18 herramientas para desarrolladores 🚀🔥

El modelo Bitcoin UTXO, impulsando un ecosistema único

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps