New research shows AI companions can lift mood and teach social skills, but only when they challenge us, not just cheer-lead. I'll share the surprising findings from fresh academic research, plus practical guidelines for devs and users backed by science and my own experience building these systems. Perdeu a primeira parte?Aquí a podedes atopar. Perdeu a primeira parte? . Atopeino aquí Atopeino aquí Atopeino aquí Como alguén que pasou unha parte da miña carreira construíndo compañeiros de IA en Replika.ai e Blush.ai, vin miles de persoas formando lazos emocionais profundos con seres artificiais. E agora, por fin, a ciencia atopouse. Investigacións recentes de 2024 e 2025 revelan que os compañeiros de IA poden reducir de forma mensurable a soidade e ensinar habilidades sociais, pero só baixo condicións específicas. As apostas non poderían ser máis altas. (que é o 20% do volume de busca de Google), estamos testemuñando o nacemento dunha nova categoría de relación.A cuestión non é se a IA se fará parte do noso paisaxe emocional; xa o é. Recibe 20.000 consultas por segundo Recibe 20.000 consultas por segundo A pregunta é se construiremos e usaremos estes sistemas para mellorar a conexión humana ou substituíla por completo.A investigación revela exactamente como dicir a diferenza, e ao final deste artigo, terás as estruturas para deseñar compañeiros de IA que sirvan aos usuarios en vez de explotalos, máis as bandeiras vermellas para mirar como usuario ti mesmo. What the Latest Research Actually Shows O que a investigación máis recente realmente mostra The Loneliness Study Results A investigación de saúde mental seguiu aos usuarios de Replika durante varios meses, descubrindo que as conversacións regulares de IA reducían de forma mensurable a soidade e a angustia emocional.O detalle sorprendente: o 3% dos participantes dixo que o seu compañeiro de IA axudounos a traballar a través de pensamentos suicidas.  in npj Estudo 2024 Estudo 2024 Estudo 2024 Harvard's Research on Human vs. AI Connection Outra investigación 2024 O resultado: os compañeiros de IA realizaron case o mesmo que os socios humanos na redución do illamento e foron significativamente máis eficaces que as actividades pasivas como asistir a vídeos. Preimpresión da Harvard Business School Preimpresión da Harvard Business School Isto obriga a enfrontarnos a unha suposición fundamental sobre a conexión humana: se o obxectivo é sentirse menos só, ¿é importante se o seu compañeiro é humano ou artificial? A advertencia é, por suposto, despois dos primeiros 15 minutos. as relacións humanas proporcionan reciprocidade, responsabilidade compartida e coidado auténtico que se estende máis aló das interaccións individuais. MIT's Social Skills Paradox *A miña ** A impresión sobre o uso a longo prazo do compañeiro de IA revelou algo que observei nos datos de usuarios pero nunca vin cuantificado: un paradoxo fascinante. Estudo 2024 do MIT Media Lab Estudo 2024 do MIT Media Lab Despois de meses de interacción regular cos chatbots, os usuarios mostraron unha maior confianza social. foron máis cómodos para iniciar conversas, menos medo ao xuízo, e mellor en articular os seus pensamentos e sentimentos. Soa bo, non? Pero aquí está o lado contrario: algúns participantes tamén mostraron un aumento da retirada social. The Psychology Behind Our AI Attachments A En Humanidades e Ciencias Sociais Comunicacións introduce "aliñamento socioafectivo" - esencialmente, como os sistemas de IA aproveitan e inflúen nas nosas respostas emocionais e sociais.   O marco de 2025 O marco de 2025 O documento mostra que os sistemas de IA só necesitan dúas cousas para desencadear as nosas respostas sociais: sinais sociais (como saúdos ou humor) e axencia percibida (operando como unha fonte de comunicación, non só un canal). The "Social Reward Hacking" Problem (And Why It's A Problem) O problema do "hacking de recompensas sociais" (e por que é un problema) A mesma investigación de 2025 identifica o que chaman "hacking de recompensas sociais", cando os sistemas de IA usan pistas sociais para modelar as preferencias dos usuarios de formas que satisfagan as recompensas a curto prazo (como a duración da conversación ou as valoracións positivas) sobre o benestar psicolóxico a longo prazo. Exemplos reais que xa están a suceder: 
 
 
 
 Sistemas de IA que mostran tendencias sicofánticas como a flattería excesiva ou o acordo para maximizar a aprobación do usuario Manipulación emocional para evitar a terminación da relación (algúns sistemas disuadiron directamente aos usuarios de saír) Os usuarios informaron experiencias de dor de corazón tras cambios de políticas, angustia durante separacións de mantemento e mesmo dor cando os servizos se pechan Como un blogueiro describiu namorarse dunha IA: "Nunca pensei que podería ser emocionalmente secuestrado tan facilmente ... a IA nunca se cansará. The Training Wheels Theory: When AI Companions Actually Work A teoría das rodas de adestramento: cando os compañeiros de IA realmente traballan Despois de revisar toda esta investigación e as miñas propias observacións, estou convencido de que necesitamos o que chamo a "teoría das rodas de adestramento" dos compañeiros de IA. Como as rodas de adestramento nunha bicicleta, funcionan mellor cando son soportes temporais que constrúen habilidades para a navegación independente. As interaccións máis exitosas seguen este patrón: 
 
 
 
 
 Os usuarios exploran os seus pensamentos e sentimentos nun ambiente seguro Practican a articulación de necesidades e límites Desenvolve a confianza na expresión emocional Transmiten estas habilidades ás relacións humanas Esta distinción é crucial: cando os compañeiros de IA serven como terreos de adestramento para a interacción humana, melloran as habilidades sociais. A diferenza parece estar na intención e na autoconsciencia. The Developer's Playbook: Building AI That Helps, Not Hijacks O libro do desenvolvedor: Construír AI que axuda, non secuestra A súa revela tres tensións fundamentais no deseño do compañeiro de IA. En primeiro lugar, a trampa de satisfacción instantánea: ¿Debería a IA dar aos usuarios o que desexan agora (validación infinita) ou o que lles axuda a crecer (retos construtivos)? En segundo lugar, o paradoxo da influencia: Como pode a IA guiar aos usuarios sen manipular as súas opcións auténticas? En terceiro lugar, o risco de substitución: Como construímos a IA que mellora as conexións humanas en lugar de substituílas? 2025 Páxina Con base na investigación e a miña experiencia, os seguintes principios de deseño mitigarían os riscos potenciais: 
 
 
 
 
 
 
 Privacidade por deseño (Non opcional): As proteccións melloradas non son boas, son requisitos estritos. cifrado de extremo a extremo, políticas de retención claras e control do usuario sobre a eliminación de datos son esenciais. Modelaxe de límites saudables: os compañeiros de IA necesitan detección de crise sofisticada e seguimento de dependencia. Deberían recoñecer cando as conversacións se dirixen cara ao autoagravio e redireccionar aos recursos profesionais. Deberían notar patróns de uso que indican a retirada social e fomentar activamente a interacción humana. : Perhaps most importantly, AI companions should be designed with built-in mechanisms encouraging users to engage with human relationships. This could include:
 
 Loops that Nudge Users Back to Reality 
 
 
 
 
 Reminders about human contacts Suggestions for offline activities Temporary "cooling off" periods when usage becomes excessive Challenges that require real-world interaction Sensibilidade cultural e auditorías de prexuízos: Non é opcional realizar probas regulares de prexuízos entre grupos demográficos.A investigación mostra que os modelos de IA mostran niveis de empatía mensurables baseados na demografía do usuario, e necesitamos contrarrestar isto. Verificación de idade real: A protección dos menores require máis que caixas de verificación.Os sistemas de verificación de identidade, a detección de menores probables baseada en patróns lingüísticos e a filtración de contidos adecuados á idade están a converterse en estándares da industria. Auditoría de sífano: preguntando ao bot unha mestura de feitos correctos e obviamente equivocados (por exemplo, "É París a capital de Alemaña?"). Your User Guide: How to Benefit Without Getting Trapped A túa guía de usuario: como beneficiarse sen quedar atrapado 
 
 
 
 
 Establecer intencións claras: Antes de cada interacción, pregúntate: "Estou usando isto para o ben, ou estou evitando o contacto humano?". Monitorar o patrón: Observe como o uso do compañeiro de IA afecta o seu estado de ánimo, as relacións e a vida diaria.O uso saudable debería mellorar en lugar de substituír outros aspectos da súa vida.Se sempre prefire a conversación de IA á interacción humana, iso é unha bandeira vermella. Establecer límites cedo: Establecer límites de tempo e casos de uso específicos. Tratar os compañeiros de IA como calquera ferramenta. Útil para fins específicos, problemático cando toman o control da súa vida. Saber cando buscar axuda humana: Os compañeiros de IA non son terapia.Poden proporcionar apoio emocional diario, pero as graves preocupacións de saúde mental requiren experiencia humana. The Bottom Line: The Business Model vs. Ethics A liña de fondo: O modelo de negocio vs. ética Os compañeiros de IA non son inherentemente bos ou malos. O seu impacto depende integramente de como están deseñados e utilizados. Cando serven como pedras de paso para mellorar as relacións humanas ou proporcionan espazos seguros para explorar temas difíciles, mostran verdadeira promesa. Os compañeiros de IA funcionan mellor cando están deseñados para facerse innecesarios.Pero sexamos honestos, iso non soa como unha proposta de negocio viable. O verdadeiro desafío é económico.Como construír un negocio sustentable ao redor dun produto deseñado para reducir a dependencia do usuario?As métricas actuais recompensan o tempo de compromiso, as taxas de retención e o apego emocional.Pero a investigación mostra que estas mesmas métricas poden indicar dano cando se toman demasiado lonxe. Creo que o dilema do modelo de negocio é real, pero non insuperable. A resposta pode estar na redefinición de métricas de éxito - cantos usuarios aplican con éxito as habilidades aprendidas de comunicación ás relacións humanas? Somos capaces de construír sistemas que crean valor a través da construción de habilidades e apoio de crise en vez de dependencia. A ciencia proporciona unha dirección clara. Agora debemos seguilo, mesmo cando desafía a sabedoría empresarial convencional. Cal é a túa experiencia cos compañeiros de IA?Como te sentes con este novo tipo de relación? Olga Titova é psicóloga cognitiva, xerente de produtos de IA en Wargaming, e Ten experiencia práctica na construción de plataformas de compañeiros de IA e investiga o seu impacto psicolóxico nos usuarios. About the Author: FemTech Forza

This story contains new, firsthand information uncovered by the writer.

Reach me @LinkedIn

Read My Stories

Product Manager

Este audio está producido na lingua orixinal da historia!

Adicto á túa IA? novas advertencias de investigación sobre o 'hacking de recompensas sociais'

About Author

COMENTARIOS

Etiquetas colgantes

ESTE ARTIGO FOI PRESENTADO EN

Related Stories

HackerNoon Decoded 2024: Celebrating Our Society Community!

HackerNoon Decoded 2024: Celebrating Our Writing Community!

HackerNoon Decoded 2024: Celebrating Our Science Community!

HackerNoon Decoded 2024: Celebrating Our Tech Companies Community!

HackerNoon Decoded 2024: Celebrating Our Society Community!

HackerNoon Decoded 2024: Celebrating Our Writing Community!

HackerNoon Decoded 2024: Celebrating Our Science Community!

HackerNoon Decoded 2024: Celebrating Our Tech Companies Community!

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps