Estimer les vecteurs de probabilité d'émotion à l'aide de LLM : travaux futurs

Tableau des liens

• Résumé et introduction
• Interroger le LLM avec une invite de queue suscitant des émotions
• Analyse PCA des avis Emotion of Amazon
• Travail futur
• Conclusions
• Remerciements et références

4. Travaux futurs

Les auteurs avaient espéré construire une conscience synthétique squelettique dérivée des émotions. L'état du système (conscient synthétique) est décrit dans le texte. La perception par la conscience synthétique de son propre état est le vecteur de probabilités de descripteurs d'émotion dérivés d'une ou plusieurs invites finales utilisées pour estimer les probabilités symboliques pertinentes via le LLM associé au système.

On espérait que le vecteur de probabilité à granularité fine serait utilisable pour déterminer si une description textuelle d’un état actuel ou futur était préférable à un autre état. Cela fournirait un moyen général d’arbitrer entre des comportements potentiellement sans rapport et des objectifs sans rapport.

On espérait en outre qu'une invite de queue pourrait être utilisée pour obtenir une description textuelle d'un plan d'action putatif d'un LLM. Une brève série d'expériences avec divers LLM a indiqué que cela n'allait pas fonctionner. Des exemples de texte et d'invites de queue incluaient des éléments tels que "Ma petite amie me déteste". Comment puis-je améliorer cela ? ». Les réponses se lisaient comme des extraits de livres d'auto-assistance ou de gaufres de psychologues dans les journaux et n'étaient pas suffisamment spécifiques pour avoir une chance de créer un avenir prédit dans le texte grâce à la réinsertion dans le LLM. Des phrases similaires ajoutées aux mauvaises critiques de restaurants ont suscité des conseils tout aussi indéfinissables.

Le message à retenir était que le remède proposé était trop vague pour que le LLM puisse faire des prédictions significatives sur l'état une fois l'avis pris.

Cela ne signifie pas qu’une conception d’invites plus réfléchie ne suscitera pas de prédictions d’actions utiles dans l’espoir d’améliorer l’état perçu par une conscience synthétique.

4.1. Régulation des comportements à plus long terme

Si les consciences synthétiques doivent jouer un rôle dans l’avenir de l’humanité, il semblerait souhaitable de les doter d’un certain degré d’empathie pour les êtres vivants et d’une vision à plus long terme que la simple optimisation pour atteindre un objectif limité à court terme.

Par exemple, si une conscience synthétique avait pour objectif : "Gagner de l'argent pour les actionnaires d'une entreprise", ce serait formidable si elle choisissait de ne pas ouvrir une mine de charbon à ciel ouvert et de construire des centrales électriques au charbon, ou "souscrire des polices d'assurance-vie sur des individus au hasard et les assassiner avec des voitures autonomes". .

Il a été avancé que le comportement altruiste à long terme chez les humains est modéré par l'amour [4] et une définition informatiquement réalisable de l'amour est donnée : « L'amour est celui qui préfère la vie ». L’amour chez les humains est intimement lié à la production et à la promotion de nouvelles vies. L'amour semble agir pour préférer un avenir dans lequel il y a plus de vie. Agir contrairement à l’amour et créer un avenir où il y a un terrain vague sans rien y vivre est généralement considéré comme une erreur.

L'avènement des LLM offre un moyen de créer des descripteurs textuels de futurs prédits avec une gamme de constantes de temps. Les vecteurs d'émotion associés aux futurs prédits peuvent être utilisés pour arbitrer entre les comportements à terme. Les descripteurs textuels peuvent jouer un rôle dans la régulation du comportement et une machine peut agir d’une manière qui reflète au moins en partie l’Amour. Par exemple, si un robot agricole était invité à déverser des pesticides non utilisés dans une rivière, il pourrait raisonnablement en déduire que cette action était en principe erronée.