Este documento está disponible en arxiv bajo licencia CC 4.0.   Autores:  (1) D.Sinclair, Imense Ltd y correo electrónico: david@imense.com;  (2) WTPye, Universidad de Warwick y correo electrónico: willempye@gmail.com.  Tabla de enlaces   Resumen e introducción   Interrogar al LLM con un mensaje de cola que provoca emociones   Análisis PCA de las reseñas de Emotion of Amazon   Trabajo futuro   Conclusiones   Agradecimientos y Referencias  4. Trabajo futuro  Los autores esperaban construir una conciencia sintética esquelética derivada de las emociones autoconscientes. El estado del sistema (consciente sintético) se describe en el texto. La percepción de la conciencia sintética de su propio estado es el vector de probabilidades de descriptores de emociones derivados de una o más indicaciones de cola utilizadas para estimar las probabilidades simbólicas relevantes a través del LLM asociado con el sistema.   Se esperaba que el vector de probabilidad detallado fuera utilizable para determinar si una descripción textual del estado actual o futuro era preferible a otro estado. Esto proporcionaría un medio general para arbitrar entre comportamientos potencialmente no relacionados con objetivos no relacionados.  Además, se esperaba que se pudiera utilizar una indicación final para obtener una descripción textual de un supuesto curso de acción de un LLM. Una breve serie de experimentos con varios LLM indicaron que esto no iba a funcionar. El texto de ejemplo y las indicaciones finales incluían cosas como: "Mi novia me odia". ¿Cómo puedo mejorar esto?'. Las respuestas parecían extractos de libros de autoayuda o palabrerías de psicólogos periodísticos y no eran lo suficientemente específicas como para tener la oportunidad de crear un futuro predicho en el texto mediante su reinserción en el LLM. Frases similares adjuntas a malas críticas de restaurantes provocaron consejos igualmente anodinos.  La conclusión fue que el remedio propuesto era demasiado vago para que el LLM pudiera hacer una predicción significativa sobre el estado después de que se hubiera seguido el consejo.  Esto no significa que un diseño rápido más reflexivo no provoque una predicción de acción útil que se espera mejore el estado autopercibido de una conciencia sintética.  4.1. Regulación del comportamiento a largo plazo  Si las conciencias sintéticas van a tener un papel en el futuro de la humanidad, parecería deseable dotarlas de un grado de empatía por los seres vivos y una visión a más largo plazo que la simple optimización para cumplir un objetivo limitado a corto plazo.   Por ejemplo, si una conciencia sintética tuviera como objetivo;  'ganar dinero para los accionistas de una empresa' sería fantástico si optara por no abrir una mina de carbón a cielo abierto y construir centrales eléctricas alimentadas con carbón, o 'contratar pólizas de seguro de vida para individuos al azar y asesinarlos con autos sin conductor' .  Se ha argumentado que el comportamiento altruista a largo plazo en los seres humanos está moderado por el amor [4] y se da una definición computacionalmente factible de   :   El amor en los humanos está íntimamente relacionado con la producción y fomento de nuevas vidas. El amor parece actuar para preferir un futuro en el que haya más vida. Actuar en contra del amor y crear un futuro en el que hay un terreno baldío sin nada que viva en él generalmente se considera incorrecto. Amor "El amor es aquello que prefiere la vida".  La llegada de los LLM ofrece un medio para crear descriptores de texto de futuros predichos con un rango de constantes de tiempo. Los vectores de emociones asociados con futuros predichos se pueden utilizar para arbitrar entre comportamientos de términos de clasificación. Los descriptores de texto pueden desempeñar un papel en la regulación del comportamiento y una máquina puede actuar de una manera que, al menos en parte, refleje el Amor. Por ejemplo, si se invitara a un robot agrícola a arrojar pesticidas no utilizados a un río, se podría inferir razonablemente que esta acción fue, en principio, incorrecta.

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

AI Models on HackerNoon

Este audio es producido en el idioma original de la historia!

Estimar vectores de probabilidad de emociones utilizando LLM: trabajo futuro

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

De los foros a los feeds: cómo los algoritmos de las redes sociales influyen en la interacción digital

Telegram: el puente de Crypto Island hacia el continente

Una guía del arquitecto para crear una arquitectura de referencia para un lago de datos de IA/ML

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

De los foros a los feeds: cómo los algoritmos de las redes sociales influyen en la interacción digital

Telegram: el puente de Crypto Island hacia el continente

Una guía del arquitecto para crear una arquitectura de referencia para un lago de datos de IA/ML

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps