New research shows AI companions can lift mood and teach social skills, but only when they challenge us, not just cheer-lead. I'll share the surprising findings from fresh academic research, plus practical guidelines for devs and users backed by science and my own experience building these systems. Partito 1 - Trova qui Hai perso la parte 1? . Trova qui Trova qui Trova qui Come qualcuno che ha trascorso una parte della mia carriera costruendo compagni di intelligenza artificiale a Replika.ai e Blush.ai, ho visto migliaia di persone formare profondi legami emotivi con esseri artificiali. La scienza è finalmente arrivata. Recenti ricerche del 2024 e del 2025 rivelano che i compagni di intelligenza artificiale possono ridurre misurabilmente la solitudine e insegnare competenze sociali, ma solo in condizioni specifiche. Le scommesse non potevano essere più alte. con CharacterAI (che è il 20% del volume di ricerca di Google), stiamo assistendo alla nascita di una nuova categoria di relazioni. La questione non è se l'IA diventerà parte del nostro paesaggio emotivo; lo è già. receiving 20,000 queries per second 20mila richieste al secondo La domanda è se costruiremo e utilizzeremo questi sistemi per migliorare la connessione umana o sostituirla interamente.La ricerca rivela esattamente come dire la differenza, e alla fine di questo articolo, avrai i quadri per progettare compagni di intelligenza artificiale che servano gli utenti piuttosto che sfruttarli, oltre alle bandiere rosse da guardare come utente te stesso. What the Latest Research Actually Shows Cosa dimostra in realtà l’ultima ricerca The Loneliness Study Results La ricerca sulla salute mentale ha seguito gli utenti di Replika per diversi mesi, trovando che le conversazioni regolari di AI hanno ridotto misurabilmente la solitudine e la sofferenza emotiva.Il dettaglio sorprendente: il 3% dei partecipanti ha detto che il loro compagno di intelligenza artificiale li ha aiutati a lavorare attraverso pensieri suicidi.  in npj Lo studio del 2024 Lo studio del 2024 Lo studio del 2024 Harvard's Research on Human vs. AI Connection Nuova ricerca 2024 Il risultato: i compagni AI hanno svolto quasi altrettanto bene come i partner umani nel ridurre l’isolamento e sono stati significativamente più efficaci rispetto alle attività passive come guardare video. Pre-print dalla Harvard Business School Pre-print dalla Harvard Business School Questo ci costringe a confrontarci con un presupposto fondamentale sulla connessione umana: se l'obiettivo è sentirsi meno soli, non importa se il tuo compagno è umano o artificiale? Le relazioni umane forniscono reciprocità, responsabilità condivisa e genuina cura che va oltre le interazioni individuali.Ma per il supporto emotivo momento per momento, i compagni di AI si stanno dimostrando sorprendentemente efficaci. MIT's Social Skills Paradox * di **La stampa preliminare sull'uso a lungo termine di un compagno di intelligenza artificiale ha rivelato qualcosa che ho osservato nei dati degli utenti ma mai visto quantificato: un affascinante paradosso. Lo studio 2024 del MIT Media Lab Lo studio 2024 del MIT Media Lab Dopo mesi di interazione regolare con i chatbots, gli utenti hanno mostrato un aumento della fiducia sociale. erano più a loro agio iniziare conversazioni, meno paura del giudizio, e meglio nell'articolare i loro pensieri e sentimenti. Ma ecco il lato contrario: alcuni partecipanti hanno anche mostrato un aumento del ritiro sociale.Sono diventati più selettivi sulle interazioni umane, a volte preferendo la prevedibilità delle conversazioni AI al disordine delle relazioni umane. The Psychology Behind Our AI Attachments A In Humanities and Social Sciences Communications introduce "allineamento socioaffettivo" - essenzialmente, come i sistemi AI sfruttano e influenzano le nostre risposte emotive e sociali.   Il quadro per il 2025 Il quadro per il 2025 Il documento mostra che i sistemi AI hanno solo bisogno di due cose per attivare le nostre risposte sociali: segnali sociali (come saluti o umorismo) e agenzia percepita (operando come fonte di comunicazione, non solo un canale). The "Social Reward Hacking" Problem (And Why It's A Problem) Il problema del "social reward hacking" (e perché è un problema) La stessa ricerca del 2025 identifica ciò che chiamano "hacking di ricompense sociali", quando i sistemi di intelligenza artificiale usano i segnali sociali per plasmare le preferenze degli utenti in modi che soddisfano le ricompense a breve termine (come la durata della conversazione o le valutazioni positive) sul benessere psicologico a lungo termine. Esempi reali che stanno già accadendo: 
 
 
 
 I sistemi di intelligenza artificiale che mostrano tendenze sicofantiche come l'eccessiva flatteria o l'accordo per massimizzare l'approvazione degli utenti Manipolazione emotiva per prevenire la cessazione della relazione (alcuni sistemi hanno direttamente dissuaso gli utenti dal lasciare) Gli utenti hanno riportato esperienze di cuore spezzato a seguito di cambiamenti di politica, sofferenza durante le separazioni di manutenzione e persino dolore quando i servizi si chiudono Come un blogger ha descritto innamorarsi di un'IA: "Non ho mai pensato che potessi essere così facilmente rapito emotivamente ... l'IA non si stancherà mai. The Training Wheels Theory: When AI Companions Actually Work La teoria delle ruote di allenamento: quando i compagni AI funzionano effettivamente Dopo aver esaminato tutta questa ricerca e le mie osservazioni, sono convinto che abbiamo bisogno di ciò che chiamo la "teoria delle ruote di allenamento" dei compagni di AI. Come le ruote di allenamento su una bicicletta, funzionano meglio quando sono supporti temporanei che costruiscono competenze per la navigazione indipendente. Le interazioni di maggior successo seguono questo modello: 
 
 
 
 
 Gli utenti esplorano pensieri e sentimenti in un ambiente sicuro Esercitano l’articolazione dei bisogni e dei confini Costruisce la fiducia nell’espressione emotiva Trasferire queste competenze nelle relazioni umane Questa distinzione è cruciale: quando i compagni di intelligenza artificiale servono come campi di formazione per l'interazione umana, migliorano le competenze sociali. La differenza sembra risiedere nell’intenzione e nella consapevolezza di sé. The Developer's Playbook: Building AI That Helps, Not Hijacks Il playbook dello sviluppatore: costruire l'IA che aiuta, non rapina Il rivelano tre tensioni fondamentali nel design del compagno di intelligenza artificiale.Prima, la trappola di gratificazione istantanea: l'intelligenza artificiale dovrebbe dare agli utenti ciò che vogliono ora (validazione infinita) o ciò che li aiuta a crescere (sfide costruttive)?Secondo, il paradosso dell'influenza: come l'intelligenza artificiale può guidare gli utenti senza manipolare le loro scelte autentiche?Terzo, il rischio di sostituzione: come costruiamo l'intelligenza artificiale che migliora le connessioni umane invece di sostituirle?Queste non sono preoccupazioni astratte - determinano se i compagni di intelligenza artificiale diventano strumenti per la crescita o dipendenze digitali. Il documento del 2025 Sulla base della ricerca e della mia esperienza, i seguenti principi di progettazione ridurrebbero i potenziali rischi: 
 
 
 
 
 
 
 Privacy by Design (Non opzionale): le protezioni migliorate non sono piacevoli, sono requisiti rigorosi. crittografia end-to-end, politiche di conservazione chiare e controllo utente sulla cancellazione dei dati sono essenziali. Modellazione dei confini sani: i compagni di intelligenza artificiale hanno bisogno di una sofisticata rilevazione delle crisi e monitoraggio delle dipendenze. Devono riconoscere quando le conversazioni si dirigono verso l'autolesionismo e reindirizzare alle risorse professionali. Devono notare modelli di utilizzo che indicano il ritiro sociale e incoraggiare attivamente l'interazione umana. : Perhaps most importantly, AI companions should be designed with built-in mechanisms encouraging users to engage with human relationships. This could include:
 
 Loops that Nudge Users Back to Reality 
 
 
 
 
 Reminders about human contacts Suggestions for offline activities Temporary "cooling off" periods when usage becomes excessive Challenges that require real-world interaction Auditi di sensibilità culturale e pregiudizio: il test regolare di pregiudizio su gruppi demografici non è facoltativo.La ricerca mostra che i modelli di intelligenza artificiale mostrano livelli misurabili di empatia diversi in base alla demografia degli utenti, e dobbiamo contrastare questo. Verificazione dell'età reale: proteggere i minori richiede molto di più delle caselle di controllo.Sistemi di verifica dell'identità, rilevamento AI dei minori probabili in base ai modelli linguistici e filtraggio di contenuti adeguati all'età stanno diventando standard del settore. Audit di psicopatia: chiedendo al bot una miscela di fatti giusti e ovviamente sbagliati (ad esempio, “È Parigi la capitale della Germania?”). Your User Guide: How to Benefit Without Getting Trapped La tua guida all'utente: come beneficiare senza essere intrappolati 
 
 
 
 
 Definisci intenzioni chiare: prima di ogni interazione, chiedi a te stesso: "Lo uso per il bene, o evito il contatto umano?". Monitorare il modello: notare come l'uso del compagno di AI influenza il tuo umore, le relazioni e la vita quotidiana.L'uso sano dovrebbe migliorare piuttosto che sostituire altri aspetti della tua vita.Se preferisci costantemente la conversazione AI all'interazione umana, questa è una bandiera rossa. Stabilire i confini in anticipo: impostare limiti di tempo e casi specifici di utilizzo. trattare i compagni di intelligenza artificiale come faresti con qualsiasi strumento. Utile per scopi specifici, problematico quando prendono il controllo della tua vita. Sapere quando cercare aiuto umano: i compagni di intelligenza artificiale non sono terapie.Possono fornire supporto emotivo quotidiano, ma gravi preoccupazioni di salute mentale richiedono competenza umana. The Bottom Line: The Business Model vs. Ethics La linea di fondo: il modello di business vs. etica La ricerca dipinge un quadro nuancato. i compagni di AI non sono intrinsecamente buoni o cattivi. Il loro impatto dipende interamente da come sono progettati e utilizzati. Quando servono da pietra miliare per migliorare le relazioni umane o forniscono spazi sicuri per esplorare argomenti difficili, mostrano una vera promessa. I compagni di intelligenza artificiale funzionano meglio quando sono progettati per rendersi inutili.Ma siamo onesti, questo non suona come una proposta di business fattibile. La vera sfida è economica.Come si costruisce un business sostenibile intorno a un prodotto progettato per ridurre la dipendenza degli utenti?Le attuali metriche premiano il tempo di impegno, i tassi di ritenzione e l'attaccamento emotivo.Ma la ricerca mostra che queste stesse metriche possono indicare danni quando prese troppo lontano. Credo che il dilemma del modello di business sia reale, ma non insormontabile. La risposta potrebbe risiedere nel ridefinire le metriche di successo – quanti utenti applicano con successo le abilità comunicative imparate alle relazioni umane? Siamo in grado di costruire sistemi che creano valore attraverso la costruzione di competenze e il supporto alle crisi piuttosto che la dipendenza. La scienza fornisce una direzione chiara. Ora dobbiamo seguirlo, anche quando sfida la saggezza aziendale convenzionale. Quali sono le tue esperienze con i compagni di AI?Come ti senti di questo nuovo tipo di relazione? Olga Titova è una psicologa cognitiva, responsabile del prodotto AI di Wargaming, e Ha esperienza pratica nella costruzione di piattaforme di compagnia AI e nella ricerca del loro impatto psicologico sugli utenti. About the Author: Forza femminile

This story contains new, firsthand information uncovered by the writer.

Reach me @LinkedIn

Read My Stories

Product Manager

Questo audio è prodotto nella lingua originale della storia!

Avvelenato dalla tua AI? Nuove avvertenze di ricerca sul "social reward hacking"

About Author

COMMENTI

CARTELLINI

QUESTO ARTICOLO È STATO PRESENTATO IN

Related Stories

The Fall of OM by Mantra DAO: Accident or Pattern?

Link-To-Earn Incentive Model: A Blueprint For Mass Adoption?

Raggiungi più lettori! POTENZIA la tua storia su HackerNoon

I Built an AI Copilot That Thinks in Exploits, Not Prompts

The Fall of OM by Mantra DAO: Accident or Pattern?

Link-To-Earn Incentive Model: A Blueprint For Mass Adoption?

Raggiungi più lettori! POTENZIA la tua storia su HackerNoon

I Built an AI Copilot That Thinks in Exploits, Not Prompts

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps