Oh AGI, ¿puedes sentirme?

En una conversación reciente con algunos investigadores notables en inteligencia artificial general (AGI), discutimos si AGI sería una ayuda o una complicación en lo que respecta al cambio climático. Nos metimos un poco en la maleza sobre qué tan pronto el IPCC informa que cruza la línea de 1.5C. Para el registro, puede llegar tan pronto como dentro de 18 años — cuando los padres de los recién nacidos de hoy podrían estar esperando enviar a sus pequeños a la universidad.

El problema es que simplemente hay demasiados problemas relacionados con el clima para catalogarlos. No es solo el hecho de que no podemos evitar superar los 1,5 °C. tambien es eso hemos diezmado las poblaciones de insectos . Este es otro canario en toda una bandada de ellos que se han hundido en la mina de carbón que hemos cavado para nosotros. Entonces, realmente nos vendría bien un poco de ayuda. La posición de mis colegas fue que AGI será esa ayuda. Mi posición es que un agente generalmente inteligente será autónomo. Su autonomía será una de las pruebas clave por las que lo reconoceremos como inteligente en general. Después de todo, esa es la prueba que nos aplicamos a nosotros mismos. Pero un agente autónomo necesitará motivación para ayudarnos.

Si las promesas de reducción de emisiones son algún tipo de proxy , parece que nos falta la motivación para ayudarnos a nosotros mismos. En cuanto a que AGI tenga algo parecido a la compasión o la empatía o simplemente valore a la humanidad lo suficiente como para echar una mano, les recuerdo que estas cualidades de los humanos comunes, cuando existen, están arraigadas en los sentimientos, no en nuestra capacidad computacional o nuestra inteligencia. Hay muchos humanos extremadamente inteligentes que históricamente no mostraron ni un ápice de compasión o empatía y cuyo impacto en la sociedad y la historia humana es materia de leyendas y pesadillas. Desde Jack el Destripador hasta Pol Pot, los ejemplos son numerosos y aterradores.

Los sentimientos humanos están profundamente arraigados en la morfología humana y la biología humana.

Incluso textos sublimes como Mathnawi de Rumi transforman el lenguaje de la lujuria humana en un lenguaje de amor humano. Muchos lo toman como un lenguaje de Amor, pero en realidad es una forma de señalar el Amor específicamente para los humanos. Es muy poco probable que sea útil para los Alfa Centauros u otras inteligencias evolucionadas en el universo, excepto como una herramienta para comprender a los humanos y su relación con el Amor. No podemos esperar que la capacidad computacional en bruto, arraigada en una morfología radicalmente diferente y prácticamente sin biología, tenga algún tipo de comprensión o resonancia con la experiencia humana.

La com-pasión –etimológicamente: mismo sentimiento, o sentimiento con– es a menudo difícil de desarrollar entre los seres humanos, como lo demuestra nuestra historia, incluso la muy reciente e inmediata.

¿Tuvieron compasión los republicanos del MAGA que irrumpieron en el Capitolio de los Estados Unidos por los oficiales que mutilaron o mataron? ¿El oficial que mató a George Floyd o los oficiales que vieron cómo sucedía tuvieron compasión por el hombre frente a ellos? ¿Por qué una inteligencia arraigada en una morfología completamente diferente sin nada como nuestros imperativos biológicos tendría compasión por la humanidad?

Los sentimientos humanos están profundamente arraigados en la morfología humana y la biología humana. Incluso textos sublimes como Mathnawi de Rumi transforman el lenguaje de la lujuria humana en un lenguaje de amor humano.

Es por eso que utilizo la metáfora de introducir una nueva especie de arañas, arañas inteligentes con la capacidad de planificar y adaptarse, como indicador de los resultados probables de AGI. Y ese es uno de los mejores resultados. Los resultados mucho peores comienzan con los usos militares de AGI que salen mal, o los humanos carecen de compasión o son francamente malévolos, e imbuyen a los agentes inteligentes autónomos con motivaciones o tendencias violentas y malévolas.

Los humanos modernos son terribles para comprender el comportamiento incluso de los sistemas de retroalimentación más simples, por una buena razón. Son enormemente complejos, especialmente los demasiado comunes que disfrutan de transitividad topológica . (Para el profano, esto significa sistemas en los que pequeñas diferencias en la entrada pueden dar como resultado diferencias arbitrariamente grandes en la salida). El poder predictivo bruto, de hecho, incluso el poder computacional universal, no es rival para esta característica. Sea testigo de las "alucinaciones" de ChatGPT . Todo, desde los desastres de la introducción de especies en nichos ecológicos para los que no son adecuadas hasta los efectos secundarios en cascada de las drogas hasta nuestros impactos en el clima, constituye una evidencia abrumadora de nuestra incapacidad para comprender sistemas complejos con nuestra inteligencia. Cuando lo hacemos bien, y no es un accidente, proviene de algún otro lugar que no sea nuestra inteligencia.

Por ejemplo, la evidencia de que lo que llamamos conciencia y experimentamos como comportamiento consciente en los demás no tiene sus raíces en la inteligencia, sino en los sentimientos, es bastante convincente. El destacado investigador, Mark Solms, en , da un resumen de la evidencia. Los niños anencefálicos, que carecen de la neocorteza, todavía se describen y experimentan como conscientes. Mientras tanto, una pequeña región de 2 centímetros cúbicos en el cerebro que se daña está 100% correlacionada con nadie en casa, el individuo no está consciente. Esta región del cerebro se asocia típicamente con el procesamiento afectivo.

la evidencia de que lo que llamamos conciencia y experimentamos como comportamiento consciente en los demás no tiene sus raíces en la inteligencia, sino en los sentimientos, es bastante convincente.

No podemos esperar que AGI sienta algo por nosotros.

No podemos esperar alcanzar un AGI de nivel reconociblemente humano (HLAGI) sin que estos agentes evidencien algo parecido a los sentimientos humanos, pero estos tienen sus raíces en la morfología y la biología humanas. Una encarnación radicalmente diferente dará como resultado una inteligencia radicalmente diferente. Pero una inteligencia radicalmente diferente es un sistema dinámico caótico topológicamente transitivo. Al igual que una especie que no se adapta a un nicho, tendrá impactos en nuestro medio ambiente que históricamente somos terribles para predecir. Por lo tanto, es terriblemente ingenuo esperar que HLAGI sea una ayuda con el cambio climático. Es mucho más probable que sea una complicación de un problema ya espinoso.

Si hay un ser humano que tenía una extraña habilidad para imaginar mundos alternativos con algún tipo de integridad o verosimilitud, ese era Frank Herbert. Les recuerdo que Dune se estableció en un período de tiempo posterior al error de AGI . Es muy probable que sea una visión demasiado optimista. Es más probable que la paradoja de Fermi se explique por la tendencia urobórica de la inteligencia a tratar de replicarse a sí misma, eliminándose así. En términos de la hipótesis Grabby Aliens de Robin Hanson , eludir este impulso para replicar la inteligencia sin comprender el papel de la encarnación es probablemente uno de los pasos difíciles que la inteligencia tiene que superar para sobrevivir.

Imagen principal cortesía de Milad Fakurian & Unsplash