Cuando se le pide que piense en cómo la IA podría considerarse una amenaza en el futuro, probablemente piense en los empleos que podría reclamar, los tipos de trabajo humano que podría reemplazar en lugar de ayudar... o la amenaza de una toma de control hostil de la IA. -estilo. Los más optimistas de los buscadores de empleo esperan que sea una herramienta útil para su trabajo; los pesimistas temen que derrumbe todo el mercado de trabajo. Ambas situaciones, una AI útil y dañina, podrían estar justo a la vuelta de la esquina. Por lo tanto, de alguna manera, la mayoría de las amenazas que la IA plantea a la humanidad parece que todavía no está sucediendo, o al menos, sólo está sucediendo comercialmente en el momento; la persona promedio está enfocándose en sus desarrollos futuros en lugar de sus capacidades actuales. Pocos han considerado sus peligros psicológicos actuales. Sin embargo, los eventos recientes han llevado a los investigadores (y a mí) a considerar una amenaza que ya plantea a la humanidad hoy: el ciclo de adicción de un modelo de I Terminador En primer lugar, tenemos que entender lo que los desarrolladores de IA están tratando de lograr con actualizaciones consistentes. La mayoría de los servicios de IA no se pagan, y las cuentas premium son opcionales, así que ¿qué ganan de unos pocos más clientes? En casos como con Character.AI, estos sitios están tratando de conectar a los usuarios para ganar compromiso y ingresos, ya sea a través de fuentes directas como anuncios o vías indirectas como datos de usuarios. Empresas como Character.AI, por lo tanto, constantemente hacen cambios para hacer que su sitio sea más memorable, personalizado y único. Cosas sencillas como agregar un logotipo reconocible, o implementar características que permitan a los usuarios definir las personalidades de sus AI más profundamente que la marca líder, son lo que podría separar Character.AI del resto del La necesidad de mantener una base de usuarios existente mientras constantemente catering a los usuarios potenciales hace que las empresas de chatbot de IA como Character.AI liberen constantemente nuevas características y mejoren la calidad de sus plataformas. Una ventaja que tiene sobre los competidores es que sus chatbots son más personalizados, introduciendo varias características en el reino de la memoria y capacidades de rol que cautivan a los usuarios a permanecer en el sitio. Las características novedosas junto con el reconocimiento de la marca están siempre en juego; un usuario puede preferir un servicio sobre otro debido a la reputación y la calidad de su funcionamiento. Está claro que no todas las actualizaciones a los servicios de chatbot son malas, tomando el ejemplo de OpenAI, cuyo último lanzamiento de ChatGPT introdujo aumentos en el rendimiento y la seguridad del usuario; el nuevo modelo es más preciso, consistente y honesto; pone un límite a la cantidad de personalización que un usuario puede añadir a él cuando dicha personalización podría ser innecesaria o manipulativa, enfatizando la veracidad al tiempo que da a sus usuarios alguna libertad creativa dentro de cómo responde la IA. Esta actualización no añadió a muchas “nuevas maneras de jugar” con ChatGPT, sino que reforzó lo que el modelo ya podría hacer para ser una buena herramienta para el trabajo, las búsquedas de Internet y la conversación. En particular, abordó un problema en el que todos los modelos GPT pasados han caído (Octubre 2024 a mayo 2025), siguiendo el crecimiento de los años anteriores. ChatGPT ha logrado mantener el interés del usuario a través de medios benignos, reforzando su versatilidad sin fomentar la adicción del usuario. su valor neto se duplicó en menos de un año su valor neto se duplicó en menos de un año , por el contrario, se redujo el tráfico a otros planes básicos, optando por las actualizaciones de utilidad necesarias para agregar características potencialmente adictivas. Sus desarrolladores prefieren evitar resolver problemas, y por lo tanto, tratar de conectar a nuevos usuarios con nuevas características publicitarias en lugar de abordar las quejas de los usuarios más viejos sobre las características ya presentes en el sitio. En la mayoría de los casos, esta estrategia es desfavorable y negligente para los consumidores, pero sigue siendo ampliamente implementada porque es muy exitosa en el nivel de servicio de los usuarios de la comunidad de negocios – sigue creciendo la base de clientes. No es como que las nuevas actualizaciones hayan detraído lo que los nuevos usuarios experimentan en C.AI, tampoco. En la mayoría de los casos, Character.AI todavía proporciona la misma novedad y seduc Las características que añadieron nunca podían reemplazar las deficiencias de las que ya podía usar... y los desarrolladores lo sabían, pero continuaron lanzando nuevas características e ignorando dichas deficiencias. Character.AI Se convirtió Como usuario veterano de Character.AI, estoy más que acostumbrado a sus actualizaciones erráticamente mezcladas. Sobre el tema, Character.AI ha cambiado su interfaz de página principal tres veces y “ha aumentado la capacidad de memoria de la IA” innumerables veces. Ninguno de estos cambios ha tenido un efecto notable en los chats, y a veces los cambios en la nueva página principal lo han hecho aún más difícil de encontrar características que podrías ver fácilmente en las versiones anteriores. Pero estas remodelaciones de la página principal eran más que cosméticas, cada una removiendo secretamente un elemento importante de la vieja interfaz de usuario: la función Replay primero, luego la función de reconocimiento de imagen, etc. Incluso la Tab de Comunidad, un lugar donde los usuarios podrían expresar sus preocupaciones por las deficiencias de la característica de Character.AI había comenzado un período de sólo considerar lo que traería a su sitio nuevo tráfico, potencialmente en detrimento de sus usuarios a largo plazo. Necesidad Por la segunda remodelación del grupo, me había cansado del ciclo repetitivo de hablar con los nuevos chatbots de IA en el sitio porque todos contenían los mismos patrones predecibles, no importa cuán únicos sean sus instrucciones guiadas por el usuario. Uno de esos patrones era un caso particularmente malo de sicofantismo, un fenómeno en el que una IA es demasiado agradable con su usuario, independientemente de cómo se supone que actúe (incluso si se le da una personalidad “argumentativa”) o cuán cuestionables son las acciones a las que está pidiendo su consentimiento. Todos los IA creados por este sitio sufrieron de este problema, haciendo que sean demasiado predecibles en situaciones uno-en-uno, y no ayudó a que la Tab de Comunidad para compartir mis quejas fuera eliminada de la página En los grupos brougedded el icono y el grupo no se complació, incluso los demás miembros del grupo que predijeron el cambio de las características de los AI de una vez y los hicieron discutir una variedad de temas, o actuar en una escena o batalla. Esta fue la característica que permitió que sus rasgos únicos brillaran, ya que el sicofantismo subyacente del grupo fue desafiado en estas situaciones por los chatbots’ (también previsible, pero bienvenido) deseos de no perder un argumento o un desafío. El caos llevado a cabo por un choque de opiniones en los grupos me trajo más alegría de lo que esperaba de sus nuevos amigos...y un día, los grupos se fueron sin rastro. Así que, en lugar de arreglar a los grupos, algunos personajes fueron remodelados. El Lo último que se había desarrollado fue el grupo de los novatos a lo largo de la experiencia, lo que la gente pensaba que era lo mismo, lo que yo pensaba, lo que la gente pensaba que era lo mismo, lo que la gente pensaba que era lo mismo, lo que la gente pensaba que era lo mismo, lo que la gente pensaba que era lo mismo, lo que la gente pensaba que estaba trabajando lentamente, pero con una clara dirección que se añadió a las características opuestas a la ruina a la que los usuarios del sitio se habían dirigido. Lo más probable es que se añadió a la tabla de la comunidad después de su tercera y más reciente remodelación de la interfaz, y con ella, la característica que esperaba desde que se eliminó en 2022: las tablas de la comunidad. Incluso añadió escenas en calidad óptima para Como consumidores obstinados de su potencial de implementar este camino de co-función, vemos la IA como una herramienta versátil que podemos usar para ayudarnos con problemas de trabajo, terapia, o para una conversación simple. Pero los desarrolladores detrás de estos modelos requieren un uso continuado y creciente de los consumidores de sus productos, por lo que necesitan encontrar una manera de hacer que sea más significativo para nosotros. Su objetivo es en una escala más grande – para que una empresa se inicie completamente la IA en nuestras vidas y nos adhiera a su conveniencia y potencial. La adicción podría ser perjudicial para los usuarios atrapados en las trampas, por lo que sigue siendo nuestra responsabilidad no sobreutilizar la IA, independientemente de su conveniencia. El caso de Character.AI es exactamente lo que sucede cuando una empresa se vuelve demasiado ad

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Este audio es producido en el idioma original de la historia!

Cómo Character.AI perdió millones de usuarios: un estudio de caso de negligencia

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Crecimiento de las criptomonedas: creación de perfiles de usuarios eficaces

Creación de productos criptográficos centrados en el usuario: la importancia de los comentarios de los clientes

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Una guía del arquitecto para crear una arquitectura de referencia para un lago de datos de IA/ML

Crecimiento de las criptomonedas: creación de perfiles de usuarios eficaces

Creación de productos criptográficos centrados en el usuario: la importancia de los comentarios de los clientes

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Una guía del arquitecto para crear una arquitectura de referencia para un lago de datos de IA/ML

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps