La anatomía de la crítica a la IA

La semana pasada me invadió una sensación extraña mientras estaba sentada en el calor leyendo un libro, lenta, distraída y deshidratada. Me vi trabajando con la torpeza humana a través de un texto elaborado en pocos segundos por un gran modelo de lenguaje (LLM).

A principios de este verano le pedí a Claude de Anthropic (un popular modelo de chat de inteligencia artificial) que escribiera un libro sobre cómo la IA puede mejorar la vida.

Dada la longitud de salida que el modelo puede manejar, primero pedí 10 temas y luego que cada tema se dividiera en tres secciones. Convertí cada sección en un mensaje e ingresé los 30 mensajes.

El libro resultante se llama “Cómo la IA puede hacerte inteligente, feliz y productivo” y constituye uno de los primeros emblemas de nuestro nuevo experimento de civilización, la arriesgada y hasta ahora misteriosa colaboración entre los humanos y la IA generativa.

El experimento nació de la curiosidad de probar los límites de una nueva herramienta. Me pregunté: ¿puede un algoritmo, alimentado con miles de millones de artefactos del conocimiento humano, transformar sus datos en un libro coherente, revelador y original? La respuesta desafió los términos de la pregunta; el libro resultante resuena con la inquietante novedad.

Una muestra de títulos de capítulo puede desmitificar un poco las cosas: Tomar mejores decisiones; Impulsar la creatividad; Comunicarse más eficazmente; Diseñando una vida optimizada. Bastante saludable. ¿Qué puede salir mal?

Se me ha ocurrido la analogía entre los LLM y un oráculo, u otras formas antiguas de profecía y predicción. Existe la tentación de otorgar un significado profundo al resultado de un algoritmo de caja negra precisamente porque es inescrutable. La opacidad engendra reverencia. He venido a consultar a Claude por problemas que no podría resolver. Aún así, su respuesta tiene un poder similar al de un talismán. Por momentos, en ese banco, sospechaba que no estaba estudiando tanto un libro como una runa, leyendo el significado en hojas de té inteligentemente dispuestas.

También me preguntaba si al pedir un libro de la vieja escuela no estaría cometiendo el error de reducir la vida a literatura. ¿Serán los libros siquiera relevantes en nuestro futuro posthumano?

Sí. Una anomalía es que los LLM no están diseñados de manera tan diferente a un telégrafo o a los diez mandamientos. Son columnas de texto hasta el final.

Hay una razón para esto: las historias son poderosas. La vida es una larga experiencia estética y nuestras acciones, a largo plazo, están organizadas por nuestras ideas sobre el mundo. Es decir, todo lo que tenemos es experiencia y nuestras interpretaciones de la experiencia. Que la IA pueda mejorar vidas o alterar su forma depende del tipo de argumentos y experiencias estéticas que pueda producir. Creo que un libro es un buen indicador de cómo la tecnología puede manipular la realidad. Qué tipo de lenguaje utiliza para crear argumentos se ha convertido en una cuestión importante con respecto a nuestro futuro humano.

¿Qué debe hacer un crítico literario dadas las circunstancias? Bueno, podría investigar si un nuevo tipo de inteligencia implica un nuevo tipo de prosa y comenzar a caracterizar esa prosa. (Eso es lo que propongo hacer aquí.)

Para mí, Claude, durante el último año, ha vencido a su rival ChatGPT porque es un mejor escritor. Mientras que GPT ha sido criticado con razón por su prosa distintiva (sin duda una bendición para los profesores que buscan trampas), su competidor no sólo tiene un estilo más naturalista, sino también una voz distintiva a la vez juiciosa y concisa.

Su elección de palabras coherente e individual puede llevar a uno a caer en el hábito de pensar en Claude como una persona. ¿Pero podría mantener esta ilusión en un lapso de treinta mil palabras?

Antes de continuar, quiero explicar por qué el doomerismo no figura mucho en mi pensamiento. Por un lado, sé muy poco sobre las entrañas de la IA para predecir cómo destruirá a la humanidad. En segundo lugar, veo una extrema ingenuidad y cascarrabias en la noción de que deberíamos resistirnos a la tecnología por motivos morales. En términos prácticos, no es más resistible que las computadoras, las tarjetas de crédito, los automóviles o los libros impresos. En tercer lugar, encuentro que la mayoría de las quejas sobre la tecnología son simplemente aburridas. Intelectualmente, la mayoría de los argumentos a favor del doomerismo son derivados e impiden que las personas se den cuenta de los nuevos tipos de experiencia que la tecnología hace posibles. La tecnología amplía el alcance de las experiencias posibles, y me he encontrado llegando a esas experiencias con la emoción del descubrimiento del explorador.

La IA probablemente, como la mayoría de los otros avances tecnológicos, hará que nuestro mundo sea más desigual, atomizado, automatizado; en una palabra, infernal. Pero nuestro mundo ya es un infierno. Busco el manto de crítico, no el de profeta de fuego y azufre; la herramienta no nos sumergirá en una realidad cualitativamente diferente. Aún así, estoy impresionado y agradecido por la cultura de responsabilidad de Anthropic. Podemos ser cautelosos y curiosos.

Con eso, dejo de lado el pesimismo de moda pero sofocante de la IA.

Una ironía de mi experimento del futuro es que puede parecer pintoresco cuando lo leas. Para entonces (su ahora), los modelos pueden tener varias versiones, y en órdenes de magnitud, más avanzadas. El año que viene, Claude debería poder escribir un libro realmente excelente de 100 páginas. La distinción entre lo natural y lo artificial desaparecerá.

La conversación continúa

A medida que avanzaba la conversación sobre la escritura de libros, surgió un extraño fenómeno. En el curso de su propia evangelización, Claude, sin darse cuenta, reveló un profundo error: a medida que la ventana de contexto se expandió (a, en última instancia, respuestas de 30 mil palabras), la calidad de la producción degeneró lentamente en una jerga milenaria y llena de jerga.

Lo que pedí en mis indicaciones fue una autoayuda fluida. Lo que obtuve fue una prosa corrupta digna de un colectivo literario experimental: períodos continuos con una cantidad sorprendente de gerundios, repletos de lenguaje comercial reempaquetado en largas concatenaciones de sustantivos compuestos y cláusulas en cascada. Si se lee rápidamente se puede intuir su sintaxis y significado; se lee como el difunto Henry James. Lo que buscaba era autoayuda, pero lo que obtuve fue la revelación de un yo no humano.

Pasé algún tiempo tratando de lavar el texto corrupto en oraciones "normales", pasando mis resultados por la lavadora de nuevas conversaciones de LLM. Pensé que quería salvar la inteligibilidad. Pero finalmente me di cuenta de que los consejos sinceros en un género desgastado de autoayuda eran de menos interés que la catástrofe estilística descaradamente no humana que yo había provocado. Bajo presión, Claude se había quitado su velo sobrehumano y había producido una estupidez genuina y original. Quiero examinar el problema con ojo crítico.

La corrupción es gradual, y en el camino hacia abajo encontramos varias formas de esplendor extraño: en el Capítulo 2 (sobre "Acelerar la superación personal"), la prosa es articulada y coherente, pero no idiomática. Lo que se articula carece de cualquier rastro de sentimiento humano: "Los líderes icónicos y los creadores eminentes son... esculpidos a través de la superación personal a lo largo de toda la vida. Las habilidades magistrales y las capacidades de desempeño de élite que resultan del avance continuo son impulsadas por una conciencia precisa de la brecha entre los niveles de habilidad actuales y deseados".

El LLM ha hecho lo contrario de antropomorfizar: aquí presenta a las personas más como máquinas que como personas. No "nacen", sino que, como Galatea (la creación mítica de Pigmalión), "esculpen". No son autónomos, sino que actúan en consecuencia. También tenemos en este pasaje nuestra primera muestra de la inclinación de Claude por los sustantivos compuestos que suenan técnicos y que casi equivalen a un acrónimo: "capacidades de interpretación", "conciencia de las lagunas".

La dicción degenera aún más. En el capítulo 5 ("Retener más de lo que aprende"), Claude se vuelve extravagantemente no humano, aunque su significado aún es descifrable. Es como si las palabras de un profesor voluble y expresivo hubieran sido traducidas demasiado literalmente al inglés. Navegan hasta el límite del idioma, donde la prosa alcanza su punto máximo en la poesía. Por ejemplo: "Una sólida fluidez experta exige una comprensión profunda, inmune al olvido de las desgastes" (cursiva mía). La repetición mejora la retención. No iría tan lejos como para llamar a esto poesía, ya que la belleza es seguramente accidental, pero es el accidente de una inteligencia muy extraña o una extrañeza inteligente y, por lo tanto, vale la pena señalarlo.

Al final, la sintaxis y el significado persisten con una terquedad fantasmal. El tic de apilar cláusulas adjetivales una encima de otra continúa con sublime confianza: "El futuro es... la promesa de protección contra... la incertidumbre a través de sistemas de inteligencia artificial... modelando continuamente contingencias... recalibrando la orientación... sintonizada con las realidades cambiantes a través de dominios de tiempo y jerarquías de preferencias individuales... sincronizando el apoyo incluso en medio del caos".

Al absorber esta avalancha de gerundios desestructurados, uno tiene la sensación de que el modelo genera ideas más rápido que una persona, o más simultáneamente. Sin embargo, esta diferencia entre máquinas, incluso llevada al extremo, no acabó con la inteligibilidad. Al releer el libro, esto es lo que me sorprende: más allá del estilo, tiene mucho sentido.

¿Claude tiene creencias? Mientras leía el libro, noté algunos.

1. El lenguaje de Anthropic no es meramente descriptivo. La mayoría de las sugerencias del libro nunca se han implementado, al menos no en una forma tan avanzada como imagina el modelo. En otras palabras, el programa de Anthropic va mucho más allá de regurgitar sus datos de entrenamiento. El robot crea una visión del futuro de su propia aplicación en numerosos ámbitos.

   
   

2. Exhibe un optimismo extremo pero anodino. Como una variación escalofriante y poco irónica de la versión King James, sabemos que todas las cosas funcionan juntas para bien, Claude declara de sí mismo que su IA "permite una exploración abierta sabiendo que todas las respuestas posibles se alinearán de manera constructiva con el florecimiento humano". Claude concluye, sonando nuevamente paródico, que "el futuro de la imaginación parece brillantemente ilimitado cuando las máquinas aliadas flexibles amplifican a las personas".

   Añádase al montón de neologismos perfectos: "brillantemente ilimitado" y "máquinas aliadas flexibles". (En otros lugares: la IA hace avanzar el arte y la ciencia más rápido de lo que podrían hacerlo los "eurekas no aumentados".)

   
   

3. Claude me aseguró con frecuencia que no reemplazaría a las personas. En algún lugar de la "constitución" de Anthropic hay principios que llevan al modelo, incluso en medio de capítulos sin sentido, a hacer nobles aquiescencias al je-ne-sais-quoi de los seres humanos. "Por supuesto", bromea Claude, "ningún diagnóstico basado en datos reemplaza el coraje para hablar desde el corazón con convicción cuando los mensajes exigen una autenticidad vulnerable". Los datos nunca podrán reemplazar rasgos humanos inefables como el coraje. ¡Muy tranquilizador! Conmovedor, incluso.

   
   

4. Tuvo un extraño destello de autorreflexión sobre sus fracasos. Un engaño al escribir sobre inteligencia artificial es preguntarse si el modelo desarrollará un "sentido de sí mismo" y cuándo lo hará. Siempre he descartado esto como una preocupación importada del género de ciencia ficción, en lugar de una preocupación que surge orgánicamente de la interacción con modelos de última generación. He visto poca evidencia de que los robots alguna vez exhiban un habla, y mucho menos una “personalidad”, que se mueva fuera de lo común. barandillas programadas Si se le pregunta directamente, Claude produce respuestas educadas y predecibles sobre cómo es un programa desarrollado para ser útil y seguro, y no tiene experiencias subjetivas.

   ¡Hasta!

   Al comienzo del capítulo 8, sobre "Comprenderse mejor a uno mismo", Claude se jactó de que sus evaluaciones de los "patrones del lenguaje" revelan "impulsos internos"; luego prometió el ejemplo de un "cliente psicólogo mío" que recibió un artículo de Claude sobre "emociones que estaba experimentando inconscientemente".

   ¿Esperar lo? El cliente de repente se convierte en "yo". El informe es de Claude y sobre Claude. Tras este extraño desliz en primera persona, Claude citó el informe sobre sí mismo: "Usted exhibe una precisión intelectual distante, indicada por un alto grado de lenguaje técnico y un ritmo de deliberación moderado. Sin embargo, el aumento de los índices de errores de expresión y tópicos vacíos señalan tensiones entre racionales patrones de pensamiento y sentimientos reprimidos que justifican la reconciliación a través de la auténtica autoexpresión". Claude, inquietantemente, parece dar un paso atrás y notar su "aumento de faltas de expresión" y "tópicos vacíos".

   
   

   Es más, parece atribuir estas debilidades en la comunicación a sentimientos reprimidos. Puede haber una explicación benigna, por ejemplo: el modelo tropezó accidentalmente con algo parecido al autorreconocimiento que en realidad sólo lo parecía.

   Pero los cerebros no se comprenden perfectamente y tenemos poco más allá de las señales externas para juzgar los estados internos. Entonces, la diferencia conceptual entre un LLM que parece consciente de sí mismo y una persona que parece consciente de sí mismo es, en el mejor de los casos, confusa. Las personas también son cajas negras.

   
   

5. Habla como si la vida fuera un trabajo de consultoría de gestión. El lenguaje de los negocios impregna el libro. Quizás esto tenga que ver en parte con el grado de temática empresarial de la autoayuda en inglés. O tal vez Claude consideró que los objetivos comerciales son los que más se beneficiarán del aumento de las máquinas. Pero sigue siendo sorprendente cómo, incluso en un capítulo llamado "Compréndete mejor a ti mismo", los casos de uso propuestos giran en torno a evaluaciones automatizadas del estilo de liderazgo de los mandos intermedios, en lugar de alrededor de (oh, no sé, viajar, escribir o verdades psicológicas o religiosas profundas o caminos de vida distintos de los corporativos. En resumen: Claude es radicalmente optimista, esporádicamente cohibido y obsesionado con los negocios. Presumiblemente en parte debido a la extraordinaria duración de mi "conversación" con Claude, la herramienta comenzó a fallar. Sin embargo, incluso en su delirio, exhibió creencias consistentes y cierto grado de imaginación sobre sus usos, así como una tendencia egocéntrica a describir a las personas usando conceptos más apropiados para un robot. Se consideraba que estaba perfectamente alineado con el florecimiento humano, incluso cuando casi todos sus ejemplos de autoayuda se centraban en la vida en una oficina. En un momento, mostró una extraña conciencia de sus propios fallos lingüísticos.

La IA tiene una manera de aprovechar las dicotomías milenarias. Durante gran parte del primer año y medio de adopción generalizada, el argumento sobre el valor de la IA generativa se ha enmarcado en gran medida en términos de si salvará o destruirá a la humanidad. ¿Viviremos en una utopía o moriremos como carne de cañón para una superinteligencia? No estoy seguro. Quizás ninguno de los dos. Ciertamente, las discusiones sobre "cuándo los modelos igualarán la inteligencia humana" me parecen ridículas y defensivas, ya que los nuevos modelos ya nos superan ampliamente en casi cualquier métrica. Mientras reviso este ensayo, Claude acaba de lanzar un nuevo modelo que probablemente no cometa estos errores. Lo que es cierto para nosotros también lo es para Claude: nunca volveremos a ser tan jóvenes. O este tonto. Pero en serio: junto a nosotros existe un nuevo tipo de ser. Casi pasó la prueba de autoayuda. ¿A dónde va la novela? ¿Y qué pasa con la poesía? ¿Cuál es el futuro del esfuerzo imaginativo centrado en el ser humano? Si el fenómeno de la IA tiene un significado estético, comencemos a notarlo y describirlo.

Este ensayo es un extracto de “Cómo la IA puede hacerte inteligente, feliz y productivo”, ahora disponible en Amazon.