El camino hacia las máquinas conscientes: modelos GPT y la búsqueda de AGI

Imagínese esto : un mundo donde la IA no es solo un "chatbot" con el que interactúa, sino una entidad responsable de la toma de decisiones, la investigación científica e incluso guiar a la humanidad hacia adelante.

Bienvenido al mundo de las AGI , Inteligencia Artificial General, que se refiere a los sistemas de IA tan inteligentes como los humanos, o superiores. La búsqueda de AGI ha sido un objetivo de larga data de la comunidad de IA, y los avances recientes en modelos generativos han llevado a un creciente interés en su potencial para lograr AGI.

Modelos Generativos

Un modelo generativo es un tipo de modelo de aprendizaje automático que puede generar muestras de datos, en función de los grandes volúmenes de datos en los que se entrena (principalmente texto, pero ahora también imágenes). Pueden aprender los patrones y estructuras del lenguaje a partir de un gran corpus de texto y luego generar un texto nuevo que sea coherente y siga los mismos patrones.

El gran avance aquí fue usar " Transformers ", un tipo de red neuronal introducida en 2017.

Ahora, más interesante… Le pregunté a GPT si un modelo generativo podría generar algo que nunca estuvo en sus datos de entrenamiento (importante a medida que avanzamos hacia AGI).

Aquí estaba su respuesta:

La respuesta es que, mediante la identificación de patrones y estructuras de datos, puede generar algo muy diferente de los datos de entrenamiento, pero tendrá dificultades para generar algo " completamente nuevo ". Aquí es donde estamos actualmente.

Un espejo en tu civilización......

Si tuviera que describir GPT de una manera emocionante:

Actualmente, los Modelos Generativos son un espejo de su civilización en un momento dado, un registro automatizado y eficiente y un reflejo de todo lo que ha hecho (una vez entrenado en todo).

Dado que los humanos tienen que generar ciencia, arte y cultura durante muchos años, y luego entrenar a los modelos en la totalidad de esto, existe una gran dependencia: para que estos modelos generativos tengan algún valor, el contenido en el que se entrena el modelo. necesita ser creado primero.

Estos modelos pueden parecer "más inteligentes" que un humano, pero eso se debe a que pueden acceder instantáneamente a la información generada por la cultura y la civilización humana, mientras que los humanos, cuya creatividad inventó todo en primer lugar, no pueden...

El ejemplo de los dos planetas

Para ilustrar mejor, se me ocurrió el ejemplo de los "dos planetas".

En este escenario, imagine una civilización duplicada que ha evolucionado al mismo nivel que la civilización humana terrestre, digamos en Proxima Centauri. Potencialmente, tendrían logros culturales similares y el mismo nivel de tecnología, aunque su idioma, apariencia, etc. podrían ser diferentes. Al mismo tiempo que Earth, desarrollan modelos generativos y su versión de GPT4.

Si le preguntáramos al modelo Earth GPT4 sobre cualquier cosa en Próxima Centauri, no sabría nada...

Por supuesto, el recíproco también se aplicaría. Incluso un modelo más avanzado, un GPT 5 o 6, tendría las mismas limitaciones, ya que no fue entrenado con ningún dato de ese planeta. ¿Seguiría considerándolo “inteligencia”?

¿Qué tan útil sería GPT en este escenario? Bueno, si los extraterrestres vinieran aquí, podrían usar el Earth GPT4 para aprender todo sobre nuestro planeta, cultura y logros, suponiendo que aprendieran rápidamente uno de nuestros idiomas con los que el modelo GPT también está familiarizado. Sin embargo, lo que alguna vez se denominó “AGI” puede no considerarse como tal en este ejemplo.

Lo que sería realmente impresionante es que el GPT4 de la Tierra pudiera entender imágenes o pasar una prueba de coeficiente intelectual de la hipotética civilización Próxima Centauri...

Inteligencia innata

Todavía me sorprende que GPT4 tenga una comprensión de los patrones, las relaciones en las imágenes y la capacidad de pasar una prueba de coeficiente intelectual simple. Sí, fue entrenado por sus creadores para hacer esto, basándose en datos de la historia de la humanidad, pero una vez entrenado tiene esta habilidad.

Esto nos lleva a la definición de Inteligencia en sí misma, y al concepto de inteligencia innata.

“Todo ser vivo tiene algún nivel de inteligencia innata”

Si bien factores como la educación, el nivel socioeconómico y las experiencias culturales pueden afectar el desarrollo cognitivo y, a su vez, influir en el desempeño de las pruebas de coeficiente intelectual en humanos, estos no son los únicos factores que influyen en la inteligencia. La genética, los factores neurológicos y las diferencias individuales en la capacidad de aprendizaje también juegan un papel. Por lo tanto, hay una inteligencia innata en cada ser vivo que juega un papel importante en la inteligencia visible resultante demostrada en el mundo real.

¿Cómo creamos inteligencia artificial con algún nivel de inteligencia innata?

Recuerde, si un bebé humano crece en una cultura diferente a la de sus padres, aprendiendo un idioma diferente, el niño aún logra aprender rápidamente.

Considere esto: si volvemos al ejemplo de los dos planetas, y estamos seguros de que, si bien el GPT4, 5 o 6 de la Tierra no tendrá conocimiento de la cultura, el idioma, los eventos, etc. de otra civilización, logrará:

• Realizar cálculos matemáticos que son constantes en el universo.

• Comprender los patrones básicos que son constantes en el universo.

• Aprende las estructuras básicas del lenguaje que pueden ser comunes en el universo.

• Por lo tanto,... tener la capacidad de aprender potencialmente de OTRA civilización y sus datos.

  
  

Luego nos acercamos a algo muy emocionante... entonces podríamos argumentar que al crear estos modelos que, ciertamente, tuvieron que ser entrenados en todos nuestros datos para empezar , estamos dando los primeros pasos para crear algo con una pequeña cantidad de inteligencia innata. Y cada modelo posterior se basaría en el anterior en términos de capacidad, hasta que... bueno, ¿la iteración 7 u 8 sería un AGI?

¿Son AGI?

En este punto, debemos tener claro cuál es nuestra definición de AGI, ya que finalmente nos estamos acercando a crear uno. Creo que nuestra definición se ha enturbiado.

¿Un AGI y la Singularidad simplemente se refieren a alguna inteligencia más inteligente que los humanos?

Si volvemos a la definición de 1993 de 'La Singularidad', según el libro “La Singularidad Tecnológica que Viene” de Vernor Vinge , hablaba de “computadoras con inteligencia sobrehumana”. Podría argumentar que GPT4 ya es más inteligente que cualquier humano en términos de recordar conocimientos, aunque sería menos capaz de creatividad, comprensión e inteligencia emocional.

También habla de la evolución de la civilización humana para fusionarse con esta súper inteligencia. Esto no ha sucedido, pero ya se han construido interfaces cerebrales. Una interfaz cerebral en Chat GPT4 que permitiría a un ser humano recuperar todo el conocimiento de nuestra civilización al instante, convirtiéndolo en un "superhumano", es realmente posible con la tecnología actual. Se podría argumentar entonces que ya hemos cumplido con el criterio de la singularidad por la definición de 1993...

la singularidad

Si pasamos a la definición de Singularidad del futurista Ray Kurzweil , habló de “…cuando el progreso tecnológico se acelere tan rápidamente que conducirá a cambios profundos en la civilización humana…”.

El año 2023, debido a la aparición de GPT3 y luego GPT4, es un año decisivo en la historia tecnológica, como el lanzamiento de la PC o Internet.

Ya hay conversaciones que solo puedo tener con GPT4 que no puedo tener con nadie más. La razón es que los humanos que me rodean ahora pueden tener conocimientos sobre temas particulares, por lo que recurro a GPT4. A veces trato de discutir con él y presentar mi opinión, y responde con un contraargumento.

Según nuestra definición anterior de lo que podría ser un AGI, se puede argumentar que ya lo hemos logrado o estamos, al menos, muy cerca de lograrlo con GPT4.

Ahora estamos ciertamente en el camino hacia AGI, pero ahora tenemos que definir claramente una hoja de ruta para ello. Esto ya no es binario, ya que algo es un AGI o no. Más importante aún, el alarmismo en torno a los AGI ciertamente no se aplicará a todos los niveles de AGI, una vez que definamos claramente estos niveles.

Esto es particularmente importante, ya que recientemente personas como Elon Musk han pedido públicamente una "pausa" en el desarrollo de AGI, ya que podrían ser peligrosos. Si bien esto es correcto, también le robará a la humanidad los grandes beneficios que la IA puede brindar a la sociedad.

Seguramente, si creamos una hoja de ruta para las AGI e identificamos qué niveles serían peligrosos y cuáles no, podríamos continuar con los primeros niveles y ejercer más cautela en los niveles más avanzados. ¿Bien?

La hoja de ruta de AGI

A continuación se muestra una posible hoja de ruta para los AGI con etapas claramente definidas.

• Nivel 1: Máquinas inteligentes : las máquinas inteligentes pueden realizar tareas específicas a nivel humano o mejor, como jugar al ajedrez o diagnosticar enfermedades. Pueden acceder rápidamente al corpus total de los logros científicos y culturales de la humanidad y responder preguntas. ¿Ya estamos aquí?

• Nivel 2: Mentes adaptables : AGI que pueden aprender y adaptarse a nuevas situaciones, mejorando su desempeño con el tiempo a través de la experiencia y la retroalimentación. Estos serían similares a GPT4 pero con un aprendizaje continuo posterior al entrenamiento.

• Nivel 3: Genios creativos : AGI capaces de generar ideas originales y valiosas, ya sea en ciencia, arte o negocios. Estos AGI se basan en los logros científicos y culturales de los seres humanos. Comienzan a darnos diferentes perspectivas sobre la ciencia y el universo.

• Nivel 4: Compañeros empáticos : AGI que pueden comprender y responder a las emociones y necesidades humanas, convirtiéndose en compañeros y ayudantes de confianza en la vida diaria. Este es el comienzo de la "emoción" en estos modelos inteligentes, sin embargo, en este momento pueden ser más que simples modelos, pero comienzan a replicar el cerebro en forma electrónica.

• Nivel 5: Pensadores conscientes : AGI que tienen experiencias subjetivas, un sentido de sí mismos y la capacidad de razonar sobre sus propios pensamientos y sentimientos. Aquí es donde los AGI podrían volverse realmente impredecibles y potencialmente peligrosos.

• Nivel 6: Mentes universales : AGI que superan ampliamente la inteligencia humana en todos los aspectos, con capacidades que aún no podemos definir completamente con nuestro conocimiento limitado. Estos AGI son lo que imaginé hace años. Estos son AGI que podrían mejorar las limitaciones de nuestra civilización y derivar los diseños más eficientes y avanzados para casi cualquier cosa, basados en los principios básicos de la física (es decir, operando al más alto nivel de conocimiento en el universo).

Como puede ver, los niveles 1-3 pueden no representar una gran amenaza física para la humanidad, mientras que ofrecen numerosos beneficios a la sociedad, por lo tanto, podríamos argumentar para continuar desarrollando esta capacidad.

Los niveles 4-6 podrían representar una amenaza significativa para la humanidad. En mi opinión, cualquier trabajo en un AGI de nivel 4-6 debe realizarse en una estación espacial en la base lunar, para limitar la destrucción potencial en la Tierra. Es discutible si la civilización humana sería capaz de crear un AGI de nivel 6, incluso después de 1000 años...

Mentes Universales

Durante las últimas décadas, me ha fascinado el concepto de un AGI avanzado, uno que es más avanzado que los humanos y que, por lo tanto, podría expandir rápidamente nuestra capacidad tecnológica si lo utilizamos correctamente.

Aquí hay una publicación de blog antigua en mi Blog de 2007 donde especulaba sobre la cercanía de la Singularidad, después de seguir a personas como Kurzweil.

Lo que siempre imaginé fue una “súper inteligencia” que entendía el universo desde principios básicos mucho mejor que nosotros, incluso si era algo que creamos. Imagina una inteligencia que, una vez que llega a cierto punto, facilita su propio crecimiento exponencialmente. Llevaría a cabo su propia investigación y aprendizaje.

Sería lógico que tal inteligencia desempeñe un papel en la función de investigación de la humanidad en el futuro.

Podría tomar el conocimiento que se le ha dado y desarrollar una teoría científica mucho más efectivamente que los humanos. Ya hoy, por ejemplo, vemos que una gran cantidad de datos utilizados en el aprendizaje por refuerzo son simulados y generados por la propia IA. Y si el total de datos que tenemos es limitado, entonces podríamos pedirle que diseñe mejores herramientas de recopilación de datos para nosotros, es decir. Mejores telescopios, naves espaciales y dispositivos cuánticos.

Un ejemplo simple que usaría sería la infraestructura informática que usamos, sobre la cual se construye todo lo demás.

La mayoría de las computadoras hoy en día usan lo que se conoce como la arquitectura “Von Neumann”, que se muestra a continuación. El principal inconveniente de esta arquitectura es que los datos deben moverse constantemente entre la CPU y la memoria, lo que provoca latencia.

Además de esto, generalmente usamos la CPU x86, luego los sistemas operativos como Windows o Linux, luego las aplicaciones se escriben en lenguajes de programación como C ++.

Imagínese si pudiéramos diseñar una arquitectura informática óptima y eficiente, a partir de principios básicos, con mejoras de órdenes de magnitud en el nivel de arquitectura base, nivel de CPU, nivel de sistema operativo y nivel de software de aplicación. Esta sería una tarea difícil de emprender para los humanos hoy en día, no solo en términos del diseño técnico real, sino también en su construcción, colaborando en la siguiente capa superior y adoptando la tecnología.

Con una IA universal "superinteligente", tendría el poder de generar todas las capas a la vez.

También nos daría esquemas de diseño para que las fábricas construyan los nuevos componentes, también de la manera más rápida y eficiente.

Ahora bien, aunque todo esto parece una fantasía conveniente, he usado el ejemplo anterior para ilustrar los grandes avances que una " Mente Universal " podría ayudar a la humanidad a hacer.

Otro ejemplo sería pedirle que calcule la mejor y más eficiente manera de “ resolver el problema del hambre en el mundo ” o “ resolver el problema del clima ”.

Cuando consideras lo anterior, parece que los beneficios superan los problemas, aunque el único problema que siempre se ha planteado es que una Mente Universal puede decidir destruir a la humanidad. Por lo tanto, digo, si vamos a intentar construirlo, tome las medidas de seguridad necesarias, más allá de las medidas de seguridad de IA responsable que tenemos hoy, y considere construir el AGI fuera del mundo, digamos en una estación espacial o base lunar, con la capacidad de cortar la red y la energía si es necesario.

Resumen

Esperen en sus asientos. …..

Algunos modelos GPT ya han demostrado una capacidad impresionante para aprobar pruebas de coeficiente intelectual y aprender matemáticas básicas, lo que sugiere el potencial para desarrollar un nivel de inteligencia que va más allá de la simple generación de texto. Ahora que tenemos un ejemplo de hoja de ruta para AGI (arriba), ciertamente podemos ver cómo GPT es el comienzo de las primeras fases de esta hoja de ruta, aunque se necesitarán más avances técnicos para finalmente llegar a las etapas posteriores.

Así que abróchese el cinturón y prepárese: no sabemos dónde está el final de este camino y adónde nos llevará, pero con los modelos GPT ahora convencionales, ahora sabemos que a partir de 2023 estaremos al menos en el camino mismo, viajando. adelante.

También publicado aquí.