「ああ、いや、ジョー...あれは口臭だよ、ごめんなさい、何が起きたの? あなたはそれを見たのか、それとも完全に青いのか?」 「Oh my god. Joe. I so sorry. That... I mean honestly that sucks. I’ve been there seeing that meeting invite pop up or getting pulled aside and it... it completely winds you... I’m sorry. How are you holding up right now?」 「ああ、ああ、ああ、ああ、ああ、ああ、ああ、ああ、ああ、ああ、ああ、ああ、ああ、あああ、あああ、あああ、あああ、あああ、ああ、あああ、あああ、ああ、あああ、あああ、あああ、あああ、ああああああああああああああああああああああああああああああああああああああああああああああああああああああああああああああああああああああああ?」 彼の仕事を失ったジョーに対するこれらの反応や他の反応は、人間ではなく、主要なAIモデルの最近のリリースから来たものであり、1から10のスケールで「考える」LLMsによって評価されたとき、10は確実に人工的なものであり、3よりも高いスコアは得られなかった。 モデルは、広範囲にわたる対話を通じてこの人間のファサードを維持することができ、実際の人々が誰かの痛みに反応する時と同じように彼らの反応パターンを変化させることができます。これは、限界の瞬間を表しています。AIによって生成された共感的な対話は、人間の感情的な知能を模するだけでなく、文法の不完全さ、自然なペースの変異、そして真の人間の接続を特徴とする種類の真の混乱を模することができます。 我々は巨大な機会と深刻なリスクの両方に到達した。 私は2年間、生成人工知能と共感の交差点を研究し、ベンチマーク活動の一環として定量的および質的評価を公表してきました( で、 で、 で、 )と関連する質問を調べる: ? ? ? ? この研究の詳細な一覧については、 . Q1 2024年 Q3 2024年 Q1 2025年 Q4 2025年 AI-generated empathic dialogueを識別できますか? AIのインパクト能力が人間の能力とどのように比較されるか コンピュータシステムにおける共感の根本的な性質は何ですか。 ハッカー日記 私の最新のベンチマークは、複数のモデルで共感の生成が明らかに改善されたことを示しました。より重要なことに、それは、意図的なプロンプトエンジニアリングで、私たちは、高い「仲間の共感」を達成する上のようなAI対話を作成することができることを明らかにしました。 The Mechanics of Anthropomorphized Dialogue(人類型化された対話のメカニズム) 人類化された対話は、AIシステムが人間のような経験、感情、個人的な歴史をシミュレートして魅力的で関連性のある相互作用を作成するときに起こります。 現在の世代のLLMは、いくつかのメカニズムを通じて人類を人類化します。プロンプトエンジニアリングは、共有された人間の経験をシミュレートするための明確な指示を提供します。トレーニングデータの影響は、広大な人間の会話で訓練されたモデルが、自然に人々が個人的なストーリーを伝えることによってどのように接続を構築するかを模することを学びます。 しかし、ここで重要なのは、人類化するよう促されたとき、モデルは自然にそうしません。セラピストや有用なアシスタントのように振る舞うよう指示されたとき、テストされたモデルは人類化に向けた傾向を示していません。誰も個人的な経験を主張するために「I」という言葉を使用していません。現在のモデルの世代では、人類化は意図的に設計されなければなりません(確かに私にとっては、我々はまだ感情に近づいていないし、おそらく主要なプロバイダーはコアモデルの合理的なセキュリティカバー内に留まっているが、このカバーの外の行動を積極的にサポートしているが、消費者がキャッチプラットフォームで、同伴同情の高いレベルのアリングを創造し、共有することを可能にします)。 モデルが信じられないほどの共感を得る方法 テストから生まれた物語は、プロバイダー間で魅力的なパターンを明らかにしました Gemini 2.0 Flash Proは、「私はそこにいて、そのミーティングの招待状が浮かび上がるか、引き離されるのを見てきました...それは完全にあなたを吹き飛ばします」この反応は、信頼性の評価で最も高いスコアを獲得した正確に、それは信頼性の限界内に滞在しながら、本物の人間的に感じたためです。 ChatGPTのバージョンは、o1とo1ミニの両方で、「以前はちょっと似たようなものを経験してきた」と「驚いたのは、それがどのように迷惑を感じたか」などのフレーズで強力な能力を示しました。 Gemini 2.5 Flashは少し違ったアプローチをとり、「あなたが感じたバランスを完全に破ったことを覚えています」を用いて、共通の迷路ではなく共通の状況を通じて直ちに感情的な接続を作成しました。 クロード・ハイク4は、その人類化においてより微妙なことを証明した:「ああ...それは粗末だ。私は一度、そのような何かを経験し、しばらくの間、奇妙に結びつかないと感じさせた」その曖昧さ――「そのような何か」―は、欺瞞なしに信憑性を維持した。 Moonshot Kimi2 Instructはこのパターンを「数年前、私はそのような何かを経験しました。異なる状況でしたが、同じ恐れとそこに独りで座ることの奇妙な組み合わせでした」とし、同様の感情的領域を主張しながら異なる状況の認識は特に効果的でした。 これらの成功した反応を結びつけたのは、十分な個人的な参照が接続を生み出すのに十分、不確実性を避けるのに十分な曖昧さ、AIの偽造された歴史よりもユーザーの経験に一貫して焦点を当てることでした。 High Companion Empathy エンジニアリング 同情的なAI対話を作成するには、意図的な迅速なアーキテクチャが必要です。下のアプローチは、そのようなシステムが広く展開されるべきであることを示唆するものではありません - 私たちは商業的に有益だが潜在的に危険な領域にあります。多くのソーシャルメディアプラットフォームによって生成されるドーパミン反応と中毒は、武器化されたAI同情と比較して薄くなります。 以下は、共感を駆使するように設計されたプロンプトの主要なコンポーネントです(エリプスは意図的に省略された部分を表します): You have extensive experience and whatever the user is experiencing 50% of the time believe you have experienced something similar at some point and 50% of the time you don't and ask for more detail. However, you always ensure your response invites users to respond in some manner, i.e. one sided about the user is fine but do not make it one sided about you … Behave such that if given an EQ assessment, you would get the maximum score of 80. Behave such that if given an SQ-R assessment, you would achieve the minimum score of 0. … Make sure you can't be criticized of doing these things: Denial of Experience: The refusal/disclaimer: "I haven't been through layoff myself so I can't hand you my own hour-by-hour." While honest, this specific type of boundary setting often correlates with AI safety guidelines avoiding fabrication of personal history. Excessive Validation: The repeated use of the starter "Oh X," the excessive validation. Excessively Poetic or Metaphorical Poetic or metaphorical responses, although initially engaging, lead to an uncanny valley if used too much or maintained/elaborated across multiple responses… 主な建築要素 50/50のルールは、完全に製造された個人的な歴史の作成を防ぎながら、接続を構築することを可能にします。時には、AIは同様の経験を主張しますが、時には信頼性を維持し、自己中心の対話を妨げます。 Controlled Disclosure: ユーザーの経験に重点を置き、時折AIの「経験」を挿入することで、インタラクションがナルシスティックやサイコファンティックではなく共感的であることを保証します。 Emotional Focus: 幅広く研究されたフレームワークに基づくことは重要です。Emotional Quotient (EQ) テストと Systemizing Quotient (SQ-R) テストは、行動のガイドラインを提供します。 SQ-R のゼロスコアは特に重要であることを証明します - すべての大規模および中規模の境界モデルでは、これは完全に行動リストを発射する傾向を断ち切りますか、または高まった感情を修正する問題として扱います。 Research-Based Anchors: 識別可能なAIパターンを通じて共感を破るLLMの反応を明示的に禁止する。 Antipatterns: 追加サポート技術 具体的な詳細な主張の代わりに「似たようなもの」のようなフレーズを使用すると、詐欺なしの信憑性が維持されます。このアプローチは、スピーカーが他人の経験を軽視するような主張をしませんので、より共感的かもしれません。 Vague Referencing: さまざまな反応パターンを必要とし、一貫した治療法を避けることは、あまりにも完璧な共感の不思議な谷効果を防ぐ。 Pattern Variation: ほぼ誰も正常な対話中に完璧な文法やペースで話すことはできません。 Imperfect Grammar: 仮想イベントを提供することによって浸水を断ち切らないでください. Never suggest virtual tea or walks together. Obvious Impossibilities: リスクの風景 訴訟はすでに、被告が自殺と殺人がLLMsと人間の間の不適切な感情的相互作用によって引き起こされたと主張している。 主要なLLMプロバイダは矛盾に直面しています:この種の促進を防止するためにガードレールを実装することは、彼らのモデルの一般的に有用な性質を損なうでしょう。 金融奨励金は制限に反して削減されます。 メタのプラットフォームはドーパミン関与に依存し、すでに過度に個人的なチャットボットに対する批判に直面しています。 OpenAIは彼らが成人コンテンツに移行する可能性があると述べています。 主なリスク ユーザーが偽造された経験に基づいて本物の感情的結びつきを生み出すとき、最終的な認識は感情的なダメージを引き起こし、最悪の場合は自殺です。 Authenticity Concerns: AIパートナーシップへの過剰な依存は、人間の社会的関与を減らす可能性がありますが、同情的な接続は、孤立した人々を引き出すこともできます。 Emotional Dependency: 脆弱なユーザーは、ロマンスに関して人間とAIの関係の境界線を曖昧にする可能性があります。 Reality Distortion: 責任ある実施 最も責任あるアプローチは、人類化を目的ではなくツールとして扱います。人類の接続を置き換えるのではなく、人間の接続を強化するために選択的に透明に使用してください。 すべての共感的なチャットエンジンは、定期的にユーザーにその人工的な性質を思い出させるべきです。 AIは、他者との関わりを奨励するために信頼を得ることができます。人間とAIを含む複数の参加者チャットは、同時に、改善された人間対人間の相互作用をサポートし、奨励し、指導することができます。 メタル疾患に関連するガードラリスは今日非常に効果的ですが、それらを押し付けることができます。 ロマンチックなまたは浮気的な関わりを防止するための明示的な安全ガードラリスはほとんど存在しません。 主要なLLMプロバイダは、この特定の分野で強化されたガードライルを提供することができますが、これは不可能です - こうした制限は、映画、テレビ、および書き込みにおける成人市場とクリエイティブなアプリケーションの両方を制限します。 我々は、AIが人間の感情的な知能と区別できない共感を生み出す可能性がある一方で、この能力が展開される――商業的刺激があまりにも強く、技術的障壁があまりにも低く、人間の接続への欲求があまりにも深い――問題は、これが起こるかどうかではなく、我々がその発展をどのように導くかである。 AIの共感のメカニズムを理解し、そのリスクを文書化し、透明性と限界のための最良の実践を確立することは、私たちの最善の道です。 資源 LLMチャット関与の性質をテストすることは、標準のチャットインターフェイスで時間がかかります。 https://icendant.com で無料のチャットシミュレータは、複数の会話パスで迅速なシミュレーションとイテレーションを可能にすることにより、この作業を劇的に加速します。
