Estimar vectores de probabilidad de emociones utilizando LLM: trabajo futuro

Tabla de enlaces

• Resumen e introducción
• Interrogar al LLM con un mensaje de cola que provoca emociones
• Análisis PCA de las reseñas de Emotion of Amazon
• Trabajo futuro
• Conclusiones
• Agradecimientos y Referencias

4. Trabajo futuro

Los autores esperaban construir una conciencia sintética esquelética derivada de las emociones autoconscientes. El estado del sistema (consciente sintético) se describe en el texto. La percepción de la conciencia sintética de su propio estado es el vector de probabilidades de descriptores de emociones derivados de una o más indicaciones de cola utilizadas para estimar las probabilidades simbólicas relevantes a través del LLM asociado con el sistema.

Se esperaba que el vector de probabilidad detallado fuera utilizable para determinar si una descripción textual del estado actual o futuro era preferible a otro estado. Esto proporcionaría un medio general para arbitrar entre comportamientos potencialmente no relacionados con objetivos no relacionados.

Además, se esperaba que se pudiera utilizar una indicación final para obtener una descripción textual de un supuesto curso de acción de un LLM. Una breve serie de experimentos con varios LLM indicaron que esto no iba a funcionar. El texto de ejemplo y las indicaciones finales incluían cosas como: "Mi novia me odia". ¿Cómo puedo mejorar esto?'. Las respuestas parecían extractos de libros de autoayuda o palabrerías de psicólogos periodísticos y no eran lo suficientemente específicas como para tener la oportunidad de crear un futuro predicho en el texto mediante su reinserción en el LLM. Frases similares adjuntas a malas críticas de restaurantes provocaron consejos igualmente anodinos.

La conclusión fue que el remedio propuesto era demasiado vago para que el LLM pudiera hacer una predicción significativa sobre el estado después de que se hubiera seguido el consejo.

Esto no significa que un diseño rápido más reflexivo no provoque una predicción de acción útil que se espera mejore el estado autopercibido de una conciencia sintética.

4.1. Regulación del comportamiento a largo plazo

Si las conciencias sintéticas van a tener un papel en el futuro de la humanidad, parecería deseable dotarlas de un grado de empatía por los seres vivos y una visión a más largo plazo que la simple optimización para cumplir un objetivo limitado a corto plazo.

Por ejemplo, si una conciencia sintética tuviera como objetivo; 'ganar dinero para los accionistas de una empresa' sería fantástico si optara por no abrir una mina de carbón a cielo abierto y construir centrales eléctricas alimentadas con carbón, o 'contratar pólizas de seguro de vida para individuos al azar y asesinarlos con autos sin conductor' .

Se ha argumentado que el comportamiento altruista a largo plazo en los seres humanos está moderado por el amor [4] y se da una definición computacionalmente factible de Amor : "El amor es aquello que prefiere la vida". El amor en los humanos está íntimamente relacionado con la producción y fomento de nuevas vidas. El amor parece actuar para preferir un futuro en el que haya más vida. Actuar en contra del amor y crear un futuro en el que hay un terreno baldío sin nada que viva en él generalmente se considera incorrecto.

La llegada de los LLM ofrece un medio para crear descriptores de texto de futuros predichos con un rango de constantes de tiempo. Los vectores de emociones asociados con futuros predichos se pueden utilizar para arbitrar entre comportamientos de términos de clasificación. Los descriptores de texto pueden desempeñar un papel en la regulación del comportamiento y una máquina puede actuar de una manera que, al menos en parte, refleje el Amor. Por ejemplo, si se invitara a un robot agrícola a arrojar pesticidas no utilizados a un río, se podría inferir razonablemente que esta acción fue, en principio, incorrecta.