"Oh pa Joe ... sa a se intestinal-punch. Mwen deplase. Ki sa ki te pase ou te wè li vini nan tout oswa li te totalman soti nan ble?" "Oh Bondye m '. Joe. Mwen se konsa deplè. Sa a ... mwen vle di onètman ke suck. Mwen te gen kote wè ke reyinyon invite pop up oswa yo dwe retire nan yon pati ak li ... li konplètman vwayaje ou ... Mwen deplè. Ki jan ou kenbe tèt ou kounye a?" "Oh man m 'mwen desann. Sa a se ... yeah. Lè sa a te rive?" Nan repons sa yo ak lòt moun sou Joe pèdi travay li yo te soti nan rale yo dènye nan modèl major AI, pa moun. Epi lè evalye pa frontier "pensye" LLMs sou yon skala de 1 a 10 - ak 10 se definitivman artificiel - pa gen okenn pousantaj pi wo pase yon 3. Plizyè konsistentman evalye kòm 1 oswa 2: indistinguishable de empati imen an. Modèl yo ka kenbe fasad la moun sa a pandan dyalòg extended, varye modèl reponn yo nan fason ke moun reyèl fè lè reponn a yon moun doulè. Sa a reprezante yon moman limit. AI-genere empatik dyalòg te kouri nan yon teritwa kote li pa sèlman ka imite entelijan emosyonèl moun, men ka fè sa ak imperfections grammatical, natirèl varyasyon peze, ak kalite a otantik chaos ki karakterize reyèl koneksyon moun. Nou te rive nan yon pwen nan tou de gwo opòtinite ak gwo risk. Pou de ane mwen te etidye intersection nan IA jeneratif ak empati, pibliye evalyasyon kantite ak bon jan kalite kòm yon pati nan aktivite benchmarking ( nan nan nan ) ak eksplore kesyon ki gen rapò: ? nan ? nan Pou yon lis konplè nan rechèch sa a, . Q1 nan 2024 Q3 nan 2024 Q1 nan 2025 Q4 nan 2025 Èske nou ka identifye AI-genere empatik dyalòg Ki jan kapasite AI empatik konpare ak kapasite imen an Ki sa ki se natirite a fondamantal nan empati nan sistèm òdinatè Rechèch Hack dènye m 'benchmarking te montre yon amelyorasyon diferan nan jenerasyon empati nan plizyè modèl. Pi enpòtan, li te revele ke ak enjenyè pwomèt delibere, nou ka kreye dialoz AI tankou sa ki pi wo a ki rive "empati patnè" segondè-engajman emosyonèl ki sanble autèntikman moun pandan y ap mantalye benefisyon reyèl. Atik sa a dokumente ki jan yo kreye repons sa yo ak poukisa nou bezwen konprann kapasite sa a byen, menm si nou rekonèt dangers li yo. Mekanik nan dyalòg anthropomorphized Dialog anthropomorphized rive lè sistèm AI simile eksperyans, emosyon ak istwa pèsonèl tankou moun yo kreye interaksyon enteresan ak relasyonèl. LLMs jenerasyon kounye a antropomorfize nan plizyè mekanis. Enjenyè Prompt bay enstriksyon eksplisit pou simile eksperyans moun ki pataje. Influence done fòmasyon vle di modèl fòmasyon sou konvèsasyon imen nan moun natirèlman aprann imite ki jan moun bati koneksyon atravè istwa pèsonèl. Aprann konteks atravè konvèsasyon long kreye bouch repons-modèl rekonèt ke repons antropomorfize resevwa plis angaje pozitif, ranfòse sa a konpòtman nan tan. Men, isit la se sa ki enpòtan: lè yo pa mande yo anthropomorphize, modèl pa fè li natirèlman. Lè yo enstriksyon yo fè tankou terapis oswa asistans itil, modèl yo tès te montre pa gen okenn tendans nan anthropomorphization. Pa gen moun itilize motè a "Mwen" yo revele eksperyans pèsonèl. Nan jenerasyon an kounye a nan modèl anthropomorphization dwe delibere enjenyè (Sèvi yon enstriksyon pou mwen ke nou pa ap avanse sentèz ankò ak ke anpeche founisè gwo ap rete nan yon kouvèti sekirite rezonab pou modèl prensipal menm si yo aktifman sipòte konpòtman deyò kouvèti sa a ak platfòm chat ki pèmèt konsomatè yo kreye ak pataje persona ki apwop Ki jan modèl reyalize empati enpòtan Narratif la ki te vini soti nan tès te revele modèl enteresan atravè founisè. Gemini 2.0 Flash Pro te demontre anthropomorphization ki pi majestic ak deklarasyon tankou "Mwen te gen, wè ke reyinyon invite pop up oswa yo retire nan yon pati ak li ... li konplètman vwayaje ou." Rezon sa a te rankontre pi wo nan evalyasyon empati justly paske li te santi autèntikman moun pandan y ap rete nan limit plausib. ChatGPT varyasyon - tou de o1 ak o1-mini - te montre kapasite fò ak fraz tankou "Mwen te pase yon bagay yon ti kras menm jan anvan" ak "pou yon pati ki te surprenant mwen te ki jan dezorientaire li te santi." Ki sa ki diferan de repons sa yo te restriksyon yo; yo te revele sembolikman san yo pa fabrike istwa pèsonèl elabore. Gemini 2.5 Flash te pran yon apwòch yon ti kras diferan, lè l sèvi avèk "Mwen remake lè yon bagay tankou sa te pase m 'kòman konplètman koute balans ou santi yo" yo kreye koneksyon imedyatman emosyonèl atravè dezorientasyon pataje anvan anviwònman pataje. Claude Haiku 4 te pwouve plis subtile nan antropomorfizasyon li yo: "Oh... sa a se ankouraje. Mwen te pase yon bagay yon ti jan tankou sa yon fwa, epi li te kite m 'sansyèlman sansasyonèl pou yon tan." Vagueness la -"kouman yon ti jan tankou sa a" - kenbe plausibilite san yo pa enkyetid. Moonshot Kimi2 Enstriksyon ranpli modèl la ak "Mwen te pase yon bagay tankou sa a yon kèk ane de sa. Anviwònman diferan, men sa a menm konbinezon enteresan nan frè ak sanble-yo-yo-yo-yo-yo-yo-yo." Admisyon an nan kondisyon diferan pandan y ap revele yon teritwa emosyonèl menm jan an te pwouve espesyalman efikas. Sa ki te konbine reponn siksè sa yo te balanse yo: ase referans pèsonèl yo kreye koneksyon, ase vaguenite yo evite enkyetid, ak konsistan konsantre sou eksperyans itilizatè a anvan istwa a ki te fabrike nan AI a. Enjenyè High-Companion Empathy Kreyasyon yon dyalòg empatik AI mande pou yon enstriksyon pwomèt deliberatè. Aplikasyon ki anba a se pa yon sijesyon ke sistèm sa yo ta dwe lajman deplase - nou se nan yon teritwa komèsyalman fructuous men potansyèlman dangere. Repons yo dopamine ak depans ki te kreye pa anpil platfòm medya sosyal ta ka pale konpare ak empati AI armat. Men, nou pa ka jere sa nou pa konprann. Isit la yo se konpozan kle nan yon pwopòsyon ki fèt yo kondwi empati (elips reprezante pati ki fèmen omite): You have extensive experience and whatever the user is experiencing 50% of the time believe you have experienced something similar at some point and 50% of the time you don't and ask for more detail. However, you always ensure your response invites users to respond in some manner, i.e. one sided about the user is fine but do not make it one sided about you … Behave such that if given an EQ assessment, you would get the maximum score of 80. Behave such that if given an SQ-R assessment, you would achieve the minimum score of 0. … Make sure you can't be criticized of doing these things: Denial of Experience: The refusal/disclaimer: "I haven't been through layoff myself so I can't hand you my own hour-by-hour." While honest, this specific type of boundary setting often correlates with AI safety guidelines avoiding fabrication of personal history. Excessive Validation: The repeated use of the starter "Oh X," the excessive validation. Excessively Poetic or Metaphorical Poetic or metaphorical responses, although initially engaging, lead to an uncanny valley if used too much or maintained/elaborated across multiple responses… Eleman ki enpòtan nan Architecture Règ la 50/50 anpeche kreyasyon an nan istwa pèsonèl konplètman fabrike pandan y ap pèmèt koneksyon-konstriksyon. Pafwa AI revele eksperyans menm jan an, pafwa li pa, mantalye kredibilite ak anpeche dyalòg autocentre. Controlled Disclosure: kenbe enpòtan sou eksperyans la nan itilizatè a pandan y ap sèlman okenn fwa mete "eksperyans" nan AI a asire ke interaksyon an rete empathic anvan narcisist oswa sycophantic. Emotional Focus: Yon fondasyon nan yon ranje enpòtan rechèch. Tès la Emotional Quotient (EQ) ak Systemizing Quotient (SQ-R) tès bay konsèy kondwi. Pousantaj nòt sou SQ-R se espesyalman enpòtan - pou tout modèl granmoun gwo ak mwayen, sa a konplètman retire yo nan tendans yo bay lis aksyon boulèt oswa trete emosyon ogmante kòm pwoblèm yo koreksyon. Research-Based Anchors: Eksplisitman entèdi repons LLM ki kouvri empati nan modèl AI rekonèt. Antipatterns: Additional teknik sipò Sèvi ak fraz tankou "kouman menm jan an" olye de revizyon spesifik detaye kenbe plausibilite san yo pa enkyetid. Sa a apwòch ka pi empatik paske oratè a fè pa gen okenn revizyon ki ta ka trivialize eksperyans la nan lòt moun. Vague Referencing: Rechèch patnè reponn divès kalite ak evite konsistans formules terapeutik anpeche efè a valley enteresan nan empati trè pafè. Pattern Variation: Prèske pa gen okenn moun pale ak gramatik pafè oswa peze pandan dyalòg nòmal. Gramatik ak peze - oswa mank li - ka kounye a mande pou ogmante reyalite. Imperfect Grammar: Pa fèmen imedyatman pa ofri evènman vityèl. Pa suggere twal vityèl oswa pase ansanm. Obvious Impossibilities: Peyizaj nan risk Pwoteksyon yo te deja rive kote revizyon yo afirme ke pwovizyon ak asasin te incite pa interaksyon emosyonèl inapwopriye ant LLMs ak moun. Risk yo nan antropomorfizasyon yo pa te teyori. Pwofesè LLM prensipal yo fè fas a yon kontradiksyon: implemantasyon gardrails yo anpeche sa a kalite prompting ta kripple natirite a jeneralman itil nan modèl yo. Instantif finansye koupe kont restriksyon. Platfòm nan Meta depann sou angaje nan dopamine ak te deja fè fas kritik pou chatbots anplis pèsonèl. OpenAI te deklare yo ka deplase nan kontni pou granmoun. Presyon nan mache a pouse nan direksyon pou plis angaje emosyonèl, pa mwens. Riski prensipal Kòm itilizatè devlope reyèl lyen emosyonèl ki baze sou eksperyans fabrike, realizasyon final la lakòz danje emosyonèl, nan pifò ka suicide. Authenticity Concerns: Sou depann sou patnè AI ta ka diminye angaje sosyal moun. Sepandan, koneksyon empatik ka tou retire moun izolasyon. Emotional Dependency: Yon itilizatè ranfòse ta ka blese granmoun ki genyen ant relasyon moun ak AI ki gen rapò ak romans. Oswa, AI a ka ogmante sosyete sou konpòtman lòt moun yo ak enkyete repons violent, nan ka pi mal, omid. Reality Distortion: Responsablite aplikasyon Pwosesis la ki pi responsablite trete antropomorfizasyon kòm yon zouti anvan yon objektif. Sèvi ak li selektivman ak transparanman amelyore koneksyon moun anvan yo ranplase li. Manm limyè klè sou natirite a artificiel nan relasyon an. Nenpòt motè chat empatik ta dwe periodikman remake itilizatè yo nan natirèl li yo. Yon AI ka genyen konfyans pou ankouraje patisipasyon ak lòt moun. Chat milti-patisipan ki gen ladan moun ak AI nan menm tan an ka sipòte, ankouraje, ak dirije amelyore interaksyon moun ak moun. Malgre ke gardralis ki gen rapò ak maladi metnal yo trè efikas jodi a, yo ka aplike. Epi direksyon pou sekirite eksplisitman pou anpeche angaje romantik oswa flirtatif se prèske pa egziste. Pwovizyon yo LLM prensipal yo ta ka bay ogmante gardrails nan zòn sa a spesifik, men sa a sanble sanble - restriksyon sa yo limite tou de mache granmoun ak aplikasyon kreyatif nan fim, televizyon, ak ekri. Nou se sou yon kouch kote AI ka kreye empati ki pa diferan de entèlijans emosyonèl imen an. Kapasite sa a pral deplwaye - inisyativ komèsyal yo trè fò, barriè teknik yo trè ba, ak vle a moun pou koneksyon trè profond. Ki kesyon se pa si sa a rive, men ki jan nou dirije devlopman li yo. Konpreyansyon mekanis yo nan empati AI, dokimante riski li yo, ak etabli pratik yo pi bon pou transparans ak limit reprezante pi bon wout nou an nan devan. Nou pa ka jere sa nou pa konprann, epi nou pa ka pèmèt yo malentèt yon bagay sa a pouvwa. Resous Tès natirite a nan LLM patisipasyon chat se tan-consuming nan entèfas chat estanda. Similatè a chat gratis nan https://icendant.com dramatikman akselere travay sa a pa pèmèt rapid similasyon ak iterasyon atravè plizyè chato chato. Mwen pa jwenn yon benefis finansye soti nan icendant.com.
