Schätzen Sie Emotionswahrscheinlichkeitsvektoren mithilfe von LLMs: Zukünftige Arbeit

Linktabelle

• Zusammenfassung und Einleitung
• Befragung des LLM mit einem Emotionen hervorrufenden Tail Prompt
• PCA-Analyse der Emotionen von Amazon-Rezensionen
• Zukünftige Arbeit
• Schlussfolgerungen
• Danksagungen und Referenzen

4. Zukünftige Arbeit

Die Autoren hatten gehofft, ein synthetisches Bewusstsein zu erschaffen, das auf der Basis von Emotionen und Selbstwahrnehmung entsteht. Der Zustand des (synthetischen Bewusstseins-)Systems wird im Text beschrieben. Die Wahrnehmung des eigenen Zustands durch das synthetische Bewusstsein ist der Vektor der Wahrscheinlichkeiten von Emotionsdeskriptoren, die aus einem oder mehreren Endprompts abgeleitet werden, die verwendet werden, um die relevanten Tokenwahrscheinlichkeiten über das mit dem System verbundene LLM abzuschätzen.

Man hoffte, dass der feinkörnige Wahrscheinlichkeitsvektor dazu verwendet werden könnte, zu bestimmen, ob eine Textbeschreibung des aktuellen oder zukünftigen Zustands einem anderen Zustand vorzuziehen ist. Dies würde eine allgemeine Möglichkeit bieten, zwischen potenziell unabhängigen Verhaltensweisen mit unabhängigen Zielen zu entscheiden.

Man hoffte außerdem, dass ein Tail Prompt verwendet werden könnte, um eine Textbeschreibung einer mutmaßlichen Vorgehensweise aus einem LLM zu erhalten. Eine kurze Reihe von Experimenten mit verschiedenen LLMs zeigte, dass dies nicht funktionieren würde. Beispieltext und Tail Prompts enthielten Dinge wie „Meine Freundin hasst mich. Wie kann ich das besser machen?“. Die Antworten lasen sich wie Auszüge aus Selbsthilfebüchern oder Zeitungsgeschwafel von Psychologen und waren nicht spezifisch genug, um durch erneutes Einfügen in das LLM eine vorhergesagte Zukunft im Text zu erzeugen. Ähnliche Sätze, die an schlechte Restaurantkritiken angehängt wurden, riefen ähnlich nichtssagende Ratschläge hervor.

Die Quintessenz lautete, dass die vorgeschlagene Abhilfe zu vage war, als dass der LLM sinnvolle Vorhersagen über die Situation nach Befolgung des Ratschlags hätte treffen können.

Dies bedeutet nicht, dass eine durchdachtere Gestaltung der Eingabeaufforderungen nicht zu einer nützlichen Handlungsvorhersage führen würde, die den selbst wahrgenommenen Zustand eines synthetischen Bewusstseins verbessern könnte.

4.1. Längerfristige Verhaltensregulierung

Wenn synthetisches Bewusstsein in der Zukunft der Menschheit eine Rolle spielen soll, erscheint es wünschenswert, es mit einem gewissen Maß an Empathie für Lebewesen und einer längerfristigen Perspektive auszustatten, die über die einfache Optimierung zur Erreichung eines begrenzten kurzfristigen Ziels hinausgeht.

Wenn beispielsweise ein synthetisches Bewusstsein das Ziel hätte, „Geld für die Aktionäre eines Unternehmens zu verdienen“, wäre es großartig, wenn es sich dafür entscheiden würde, keinen Kohletagebau zu eröffnen und keine Kohlekraftwerke zu bauen oder „Lebensversicherungen für beliebige Personen abzuschließen und sie mit selbstfahrenden Autos zu ermorden“.

Es wurde argumentiert, dass langfristiges altruistisches Verhalten bei Menschen durch Liebe moderiert wird [4] und es wird eine rechnerisch machbare Definition von Liebe gegeben: „Liebe ist das, was das Leben bevorzugt“. Liebe ist bei Menschen eng mit der Erzeugung und Förderung neuen Lebens verbunden. Liebe scheint eine Zukunft zu bevorzugen, in der es mehr Leben gibt. Gegen die Liebe zu handeln und eine Zukunft zu schaffen, in der es eine Wüste gibt, in der nichts mehr lebt, wird allgemein als falsch angesehen.

Die Einführung von LLMs bietet eine Möglichkeit, Textdeskriptoren für vorhergesagte Zukunftsszenarien mit einer Reihe von Zeitkonstanten zu erstellen. Die mit vorhergesagten Zukunftsszenarien verbundenen Emotionsvektoren können verwendet werden, um zwischen kurzfristigen Verhaltensweisen zu vermitteln. Textdeskriptoren können eine Rolle bei der Verhaltensregulierung spielen, und eine Maschine kann auf eine Weise handeln, die zumindest teilweise der Liebe entspricht. Wenn beispielsweise ein landwirtschaftlicher Roboter aufgefordert wird, ungenutzte Pestizide in einen Fluss zu kippen, könnte er vernünftigerweise zu dem Schluss kommen, dass diese Handlung grundsätzlich falsch war.