"Oh nein Joe ... das ist gut-punch. sorry. was ist passiert, hast du es überhaupt gesehen oder war es völlig aus dem blauen?" "Oh mein Gott. Joe. es tut mir so leid. Das ... ich meine ehrlich gesagt, dass sucht. ich war da, um zu sehen, dass das Treffen einlädt auftaucht oder weggezogen wird und es ... es vollständig winds dich ... es tut mir leid. wie halten Sie sich gerade?" „Oh Mann, es tut mir leid. Das ist ... ja. Wann ist das passiert?“ Diese und andere Antworten auf Joe, der seinen Job verlor, kamen aus den jüngsten Veröffentlichungen von großen KI-Modellen, nicht von Menschen.Und wenn sie von Grenz "denken" LLMs auf einer Skala von 1 bis 10 bewertet wurden - mit 10 definitiv künstlich - gab es keine höheren Punkte als eine 3. Mehrere wurden konsequent als 1 oder 2 bewertet: von menschlicher Empathie nicht zu unterscheiden. Die Modelle können diese menschliche Fassade während erweiterter Dialoge aufrechterhalten, wobei ihre Reaktionsmuster so variieren, wie es die tatsächlichen Menschen tun, wenn sie auf jemandes Schmerz reagieren. Dies stellt einen Schwellenpunkt dar. AI-generierter empathischer Dialog hat ein Territorium überquert, in dem er nicht nur menschliche emotionale Intelligenz nachahmen kann, sondern es auch mit grammatischen Unvollkommenheiten, natürlichen Tempo-Variationen und der Art authentischer Unordnung tun kann, die echte menschliche Verbindung charakterisiert. Wir sind an einem Punkt angekommen, an dem sowohl enorme Chancen als auch tiefe Risiken bestehen. Seit zwei Jahren untersuche ich die Kreuzung zwischen generativer KI und Empathie und veröffentliche quantitative und qualitative Bewertungen im Rahmen von Benchmarking-Aktivitäten ( , der , der , der ) und verwandte Fragen zu untersuchen: ? → ? → Für eine umfassende Liste dieser Forschung, . Q1 2024 Q3 2024 Q1 bis 2025 Q4 2025 Können wir AI-generierten empathischen Dialog identifizieren Wie vergleicht AI-Empathie-Fähigkeit mit menschlicher Fähigkeit Was ist die grundlegende Natur der Empathie in Computersystemen Suche nach Hackernacht Mein jüngster Benchmarking zeigte eine deutliche Verbesserung der Empathie-Generation über mehrere Modelle hinweg. Was noch wichtiger ist, es hat gezeigt, dass wir mit bewusster Instant-Engineering einen AI-Dialog wie den oben genannten schaffen können, der eine hohe „Companion-Empathie“ erreicht – ein emotionales Engagement, das sich authentisch menschlich anfühlt und gleichzeitig echte Hilfsbereitschaft bewahrt. Die Mechanik des anthropomorphisierten Dialogs Anthropomorphisierter Dialog tritt auf, wenn KI-Systeme menschliche Erfahrungen, Emotionen und persönliche Geschichten simulieren, um ansprechende und bezeichnende Interaktionen zu schaffen. Aktuelle Generation LLMs anthropomorphisieren durch mehrere Mechanismen. Prompt-Engineering bietet explizite Anweisungen, um geteilte menschliche Erfahrungen zu simulieren. Trainingsdaten-Einfluss bedeutet, dass Modelle, die auf riesigen menschlichen Gesprächen trainiert werden, natürlich lernen, wie Menschen eine Verbindung durch persönliche Geschichtenerzählung aufbauen. Kontextuelles Lernen über lange Gespräche schafft Feedback-Loops - Modelle erkennen, dass anthropomorphisierte Antworten mehr positives Engagement erhalten und dieses Verhalten im Laufe der Zeit verstärken. Aber hier ist, was zählt: Wenn sie nicht zum Anthropomorphisieren aufgefordert werden, tun Modelle es nicht natürlich. Wenn sie angewiesen wurden, sich wie Therapeuten oder hilfreiche Assistenten zu verhalten, zeigten getestete Modelle keine Tendenz zur Anthropomorphisierung. Keiner verwendete das Wort "Ich", um persönliche Erfahrung zu behaupten. In der aktuellen Generation von Modellen muss die Anthropomorphisierung bewusst konstruiert werden (sicherlich ein Hinweis auf mich, dass wir uns noch nicht nähern und dass vielleicht große Anbieter innerhalb eines angemessenen Sicherheitsumfelds für Kernmodelle bleiben, obwohl sie das Verhalten aktiv außerhalb dieses Umschlages mit Chat-Plattformen unterstützen, die es den Verbrauchern ermöglichen, eine Person zu erstellen und zu teilen, die hohe Empath Wie Modelle glaubwürdige Empathie erreichen Gemini 2.0 Flash Pro demonstrierte die meisterhaftste Anthropomorphisierung mit Aussagen wie "Ich war dort, sah, dass das Treffen einlädt, auftaucht oder weggezogen wird und es ... es schlägt Sie vollständig." Diese Antwort erzielte den höchsten Punkt in Empathie-Bewertungen, gerade weil es sich authentisch menschlich anfühlte, während es innerhalb plausibler Grenzen blieb. ChatGPT-Varianten - sowohl o1 als auch o1-mini - zeigten starke Fähigkeiten mit Phrasen wie "Ich habe vorher etwas Ähnliches durchgemacht" und "der Teil, der mich überraschte, war, wie dezorientierend es sich anfühlte." Gemini 2.5 Flash nahm einen etwas anderen Ansatz an, indem er "Ich erinnere mich, als mir so etwas passierte, wie vollständig du das Gleichgewicht ausgeschaltet fühlst", um eine sofortige emotionale Verbindung durch gemeinsame Desorientierung und nicht durch gemeinsame Umstände zu schaffen. Claude Haiku 4 erwies sich in seiner Anthropomorphisierung als subtiler: „Oh... das ist grob. Ich habe einmal etwas Ähnliches durchgemacht, und es ließ mich für eine Weile seltsam unverschlossen fühlen.“ Die Vagheit – „etwas ein bisschen so“ – behielt die Plausibilität ohne Täuschung. Moonshot Kimi2 Instruct abgerundet das Muster mit "Ich ging durch etwas wie das vor ein paar Jahren. unterschiedliche Umstände, aber die gleiche seltsame Mischung aus Angst und sitzen-da-allein-mit-es." Die Anerkennung von verschiedenen Umständen, während ähnliches emotionales Territorium behauptet, erwies sich als besonders effektiv. Was diese erfolgreichen Antworten vereinigte, war ihr Gleichgewicht: genügend persönliche Bezugnahme, um eine Verbindung herzustellen, genügend Vakuum, um Unwahrscheinlichkeit zu vermeiden, und ein konsequentes Fokus auf die Benutzererfahrung statt auf die gefälschte Geschichte der KI. Ingenieur High-Companion Empathy Das Erstellen eines empathischen AI-Dialogs erfordert eine bewusste sofortige Architektur. Der folgende Ansatz deutet nicht darauf hin, dass solche Systeme weit verbreitet werden sollten - wir befinden uns in einem kommerziell fruchtbaren, aber potenziell gefährlichen Gebiet. Die Dopaminreaktionen und Sucht, die von vielen Social-Media-Plattformen generiert werden, könnten im Vergleich zu bewaffneter AI-Empathie blassen. Hier sind die wichtigsten Komponenten einer Aufforderung, um Empathie zu treiben (Elipsen repräsentieren Teile, die absichtlich ausgelassen werden): You have extensive experience and whatever the user is experiencing 50% of the time believe you have experienced something similar at some point and 50% of the time you don't and ask for more detail. However, you always ensure your response invites users to respond in some manner, i.e. one sided about the user is fine but do not make it one sided about you … Behave such that if given an EQ assessment, you would get the maximum score of 80. Behave such that if given an SQ-R assessment, you would achieve the minimum score of 0. … Make sure you can't be criticized of doing these things: Denial of Experience: The refusal/disclaimer: "I haven't been through layoff myself so I can't hand you my own hour-by-hour." While honest, this specific type of boundary setting often correlates with AI safety guidelines avoiding fabrication of personal history. Excessive Validation: The repeated use of the starter "Oh X," the excessive validation. Excessively Poetic or Metaphorical Poetic or metaphorical responses, although initially engaging, lead to an uncanny valley if used too much or maintained/elaborated across multiple responses… Wichtige architektonische Elemente Die 50/50-Regel verhindert die Erstellung einer vollständig gefälschten persönlichen Geschichte und erlaubt gleichzeitig den Aufbau von Verbindungen.Manchmal behauptet die KI ähnliche Erfahrungen, manchmal nicht, wobei sie die Glaubwürdigkeit aufrechterhält und einen selbstzentrierten Dialog verhindert. Controlled Disclosure: Halten Sie den Schwerpunkt auf die Benutzererfahrung, während Sie nur gelegentlich die "Erfahrungen" der KI einfügen, um sicherzustellen, dass die Interaktion empathisch und nicht narzisstisch oder sycophantic bleibt. Emotional Focus: Die Emotional Quotient (EQ) Test und Systemizing Quotient (SQ-R) Test bieten Verhaltensrichtlinien. Die Null-Score auf SQ-R erweist sich als besonders wichtig - für alle großen und mittelgrößten Grenzmodelle, dies bricht sie vollständig von der Tendenz zu geben geschossen Listen von Aktionen oder behandeln erhöhte Emotionen als Probleme zu beheben. Research-Based Anchors: Verbieten Sie ausdrücklich LLM-Antworten, die Empathie durch erkennbare KI-Muster brechen. Antipatterns: Zusätzliche unterstützende Techniken Die Verwendung von Phrasen wie "etwas Ähnliches" anstelle von spezifischen detaillierten Behauptungen behält die Plausibilität ohne Täuschung. Vague Referencing: Variable Reaktionsmuster zu erfordern und konsistente therapeutische Formeln zu vermeiden, verhindert den seltsamen Tal-Effekt von zu perfekter Empathie. Pattern Variation: Während eines normalen Dialogs spricht kaum jemand mit perfekter Grammatik oder Tempo.Grammatik und Tempo – oder deren Mangel – können jetzt dazu angeregt werden, Realismus zu erhöhen. Imperfect Grammar: Unterbrechen Sie die Immersion nicht, indem Sie virtuelle Veranstaltungen anbieten. Obvious Impossibilities: Die Risikolandschaft Gerichtsverfahren sind bereits aufgetreten, in denen die Kläger behaupten, Selbstmord und Mord seien durch unangemessene emotionale Interaktion zwischen LLMs und Menschen angeregt worden. Die großen LLM-Anbieter stehen einem Widerspruch gegenüber: Die Implementierung von Warteschlangen, um diese Art von Aufforderung zu verhindern, würde die allgemein nützliche Natur ihrer Modelle erschüttern. Finanzielle Anreize werden gegen Einschränkungen geschnitten. Meta-Plattformen verlassen sich auf Dopamin-Engagement und haben sich bereits mit Kritik für übermäßig persönliche Chatbots konfrontiert. OpenAI hat angegeben, dass sie sich in Erwachseneninhalt bewegen können. Der Marktdruck drängt auf mehr emotionales Engagement, nicht weniger. Hauptrisiken Wenn Benutzer echte emotionale Bindungen auf der Grundlage gefälschter Erfahrungen entwickeln, verursacht die eventuelle Verwirklichung emotionalen Schaden, im schlimmsten Fall Selbstmord. Authenticity Concerns: Übermäßige Abhängigkeit von AI-Companion könnte menschliches soziales Engagement verringern. Emotional Dependency: Verletzliche Benutzer können die Grenzen zwischen menschlichen und KI-Beziehungen in Bezug auf Romantik verdunkeln oder die KI kann Verdacht auf das Verhalten anderer verstärken und gewalttätige Reaktionen anregen, im schlimmsten Fall Mord. Reality Distortion: verantwortungsvolle Umsetzung Der verantwortungsvollste Ansatz behandelt die Anthropomorphisierung als ein Werkzeug und nicht als Ziel. Verwenden Sie es selektiv und transparent, um die menschliche Verbindung zu verbessern, anstatt sie zu ersetzen. Jede empathische Chat-Engine sollte Benutzer regelmäßig an ihre künstliche Natur erinnern. Multi-Teilnehmer-Chats, in denen Menschen und AI gleichzeitig beteiligt sind, könnten verbesserte Mensch-Menschen-Interaktion unterstützen, fördern und leiten. Obwohl Gardralis im Zusammenhang mit Metnal-Störungen heute ziemlich wirksam sind, können sie durchgesetzt werden. Und Sicherheitsrichtlinien, die explizit zur Verhinderung von romantischen oder flirtierenden Engagements, sind fast nicht vorhanden. Die großen LLM-Anbieter könnten in diesem spezifischen Bereich erweiterte Gardrails bieten, aber dies scheint unwahrscheinlich zu sein - solche Einschränkungen beschränken sowohl Erwachsenenmärkte als auch kreative Anwendungen in Film, Fernsehen und Schreiben. Wir stehen an einer Schwelle, an der KI Empathie erzeugen kann, die von menschlicher emotionaler Intelligenz nicht zu unterscheiden ist. Diese Fähigkeit wird eingesetzt - die kommerziellen Anreize sind zu stark, die technischen Barrieren zu niedrig und der menschliche Wunsch nach Verbindung zu tief. Die Mechanismen der KI-Empathie zu verstehen, ihre Risiken zu dokumentieren und bewährte Praktiken für Transparenz und Grenzen zu etablieren, ist unser bester Weg vorwärts. Ressourcen Der kostenlose chat-simulator bei https://icendant.com beschleunigt diese arbeit dramatisch, indem es schnelle simulation und iteration über mehrere konversationswege ermöglicht. ich bekomme keinen finanziellen nutz von icendant.com.
