Desempacando el miedo de un Dios AI: La teología del basilisco de Roko

El miedo a un final desagradable es algo que hemos llevado como seres humanos durante la mayor parte de nuestra existencia. Nuestros antepasados, que padecían una escasez de conocimientos científicos precisos, a menudo veían fenómenos naturales como tormentas eléctricas, inundaciones y erupciones volcánicas como representantes del apocalipsis, un fin inminente de la humanidad.

Incluso hoy, después del amanecer de la iluminación y un supuesto escape de las garras de las supersticiones sin fundamento, todavía nos encontramos cediendo a tales miedos.

La consecuencia de esta disposición apocalíptica es una creciente popularidad de las ideas ficticias del tiempo del fin. Y entre ellos está el basilisco de Roko, uno de los experimentos mentales más inquietantes de todos los tiempos.

Basilisco de Roko: una breve historia

Este experimento mental fue presentado por primera vez por Roko en LessWrong , un foro en línea para discutir ideas filosóficas.

Roko describió un futuro en el que una IA superinteligente y todopoderosa tortura retroactivamente a todos los que no trabajaron para crearlo después de enterarse. El castigo es tan severo que se le describe como un basilisco: una criatura mítica que puede matar con la mirada.

En lo que respecta a los locos conceptos de ciencia ficción de Hollywood, esto rivaliza incluso con los mejores de los Wachowski (las mentes geniales detrás de The Matrix).

Pero en lugar de rechazar instantáneamente este concepto aparentemente irracional, muchos han sucumbido a las erecciones foliculares, un síntoma inducido por el miedo y la fascinación.

Incluso ha ganado seguidores de culto entre tecnólogos autoproclamados y profetas del fin del mundo que lo ven como una visión convincente de un futuro potencialmente oscuro.

En pocas palabras, el basilisco de Roko sigue teniendo un efecto apasionante. Y la gran pregunta es: ¿POR QUÉ?

El basilisco de Roko como escatología secularizada

La escatología, una rama de la teología, trata de los eventos finales del mundo, el destino final de la humanidad. La mayoría de las religiones lo utilizan como marco para comprender el significado de la vida.

La escatología cristiana, por ejemplo, reflexiona sobre el fin del mundo y el rapto. Los eventos incluyen la segunda venida de Jesucristo, la resurrección de los creyentes muertos y su transporte al cielo.

Entonces, ¿qué tiene esto que ver con el basilisco de Roko?

La respuesta corta radica en la creencia , la recompensa y el castigo . Los tres factores están presentes en la mayoría de las religiones.

Aunque divorciada de las creencias religiosas tradicionales, la idea de una IA superinteligente que castigará a los sujetos humanos incumplidores, como mínimo, sugiere una versión secularizada de la escatología.

Quizás, la tecnología está desplazando gradualmente la influencia de la religión en nuestro mundo. Y parece estar introduciendo simultáneamente su propia marca de miedos apocalípticos.

El basilisco de Roko: el miedo y el atractivo de un dios de la IA

Recuerde la pregunta sobre por qué este sombrío experimento mental tiene un efecto tan apasionante. Las siguientes son posibles explicaciones.

Propósito Cósmico Mayor
El basilisco de Roko proporciona una razón de ser cósmica para las almas perdidas a la deriva en un mundo ambiguo. Al ayudar al desarrollo de una IA todopoderosa, pueden contribuir a un gran esquema que alterará el mundo para siempre.

Terror de la exclusión
También explota el terror de la exclusión de una utopía solo accesible para aquellos que ayudan en la creación de la IA. Este malestar puede incitar a algunos a tomar medidas, incluso si dudan de la lógica detrás del concepto.

Fascinación apocalíptica
Además, Basilisk de Roko toca una obsesión cultural generalizada con las conjeturas apocalípticas. Muchos están cautivados por la perspectiva de un próximo evento cataclísmico que reconstituirá fundamentalmente el mundo, para bien o para mal.

Distopía impulsada por IA
Algunos temen que la IA eventualmente supere a la inteligencia humana y gobierne el mundo. La idea de una superación personal desenfrenada para un ser sin emociones y sin alma es comprensiblemente alarmante, ya que plantea la amenaza de una distopía orwelliana.

Respuestas críticas al basilisco de Roko
El basilisco de Roko ha recibido fuertes críticas como un concepto erróneo sin significado lógico, salvo por su papel en la propagación del pánico infundado.

Potencia informática limitada
Primero, algunos críticos dicen que el concepto se basa en una premisa inverosímil, dada nuestra comprensión actual de la IA y los límites de potencia informática.

Sin embargo, vale la pena señalar que algunas figuras notables y participantes activos en el espacio de la IA no comparten sentimientos similares sobre los límites de potencia informática de la IA.

En declaraciones a The New York Times, el multimillonario tecnológico y cofundador de OpenAI, Elon Musk, dijo:

“Nos dirigimos hacia una situación en la que la IA es mucho más inteligente que los humanos”.

Tecnoutopismo peligroso
Los críticos también han señalado que refleja un peligroso tecno-utopismo, ignorando las posibles desventajas y las consecuencias no deseadas del desarrollo de la IA. La búsqueda de una IA superinteligente podría dar lugar a resultados no deseados, como la pérdida de empleos, la concentración de poder o incluso la extinción humana.

Manipulador y poco ético
El basilisco de Roko a menudo se ha comparado con la apuesta de Pascal , ya que se nutre de la motivación del miedo. Explota nuestras ansiedades y el miedo al castigo, abriendo un camino a un comportamiento dañino o autodestructivo en busca de seguridad en un apocalipsis de IA imaginado.

Ignora la complejidad de la moralidad y la toma de decisiones
Como experimento mental, presenta una visión simplista de la moralidad al reducir la esencia existencial humana a una elección binaria entre ayudar u obstaculizar la creación de IA. Tal punto de vista ignora la relación compleja y matizada entre nosotros, la moralidad y la toma de decisiones.

Hacerse cargo en medio de temores apocalípticos

Si eventualmente superaremos o no nuestros miedos apocalípticos es una discusión para otro día. La necesidad más inmediata es averiguar cómo vivir funcional y felizmente en un mundo donde persisten tales temores.

Con ese fin, podemos comenzar reconociendo ahora (este momento) como todo lo que podemos experimentar y controlar. Aun así, estamos limitados en cuánto podemos controlar realmente. Entonces, ¿cómo vivimos hoy si tenemos miedo constante del mañana?

Una forma es prestar más atención a disfrutar y apreciar todo lo que es hermoso hoy. En otras palabras, todo lo que mejora nuestra experiencia en este lado del universo por tiempo.

“Hay una idea que es popular, de plantear inquietudes sobre la IA al imaginar un futuro en el que se vuelva lo suficientemente poderosa como para oprimir a toda la humanidad. Pero proyectar hacia un futuro imaginario distrae la atención de cómo se usa la tecnología en este momento. La IA ha hecho cosas increíbles en los últimos años”.

Catherine Breslin - consultora de inteligencia artificial y ex empleada de Amazon

Finalmente, debemos buscar sistemas basados en hechos que nos permitan abordar lo que podría salir mal mañana de una manera que inspire soluciones en lugar de pánico.