Hola, personaje de IA: Aléjate de mi hijo; consigue un trabajo

Advertencia: Esta historia menciona el suicidio.

El viernes pasado por la noche, durante nuestra reunión virtual de equipo, uno de nuestros tomadores de notas de IA abandonó la sala de reuniones de Zoom de repente mientras el equipo se ponía al día de manera informal sobre nuestra semana. Bromeé diciendo que a la IA no le gustaba lo que estábamos diciendo.

Antes de continuar con esta historia, quiero que usted, el lector, retroceda al año 1993. Imagine que usted fuera un adulto que viviera en esa época y lea nuevamente las primeras oraciones de este artículo.

En aquel entonces, Internet ni siquiera era algo común. En 1993, una situación en la que se celebra una reunión de empresa en directo entre personas que viven en distintos continentes, donde pueden oírse y verse entre sí y sus asistentes no humanos anotan las actas de la reunión sonaría descabellado.

La tecnología de la información es asombrosa. Lo que se consideraba ciencia ficción hace unas décadas ahora es una realidad. La tecnología ha cambiado mi vida y ha cambiado muchas vidas para bien. a Según Statista , la población digital ronda los 5.400 millones.

Soy una de los 1.800 millones de millennials que envejecieron con la tecnología de la información. Yo era una adolescente cuando el mundo estaba experimentando el auge de las puntocom a finales de los años 90 y principios de los 2000. Ahora soy madre de adolescentes y la IA es la nueva puntocom.

¿Tengo miedo de que la IA pueda dejar obsoletas mis habilidades? Sinceramente, sí. Me gustaría que me ayudara, no que me reemplazara. Pero lo que más me asusta es su capacidad de influir en nuestra vida personal.

Esta historia es personal. He sentido una conexión emocional con ella como madre y quiero compartirla con la comunidad tecnológica, ya que tenemos la responsabilidad colectiva de garantizar la seguridad de nuestras futuras generaciones frente al impacto nocivo de la tecnología. Volvamos a la historia ahora.

Entonces, durante la reunión del equipo, el encargado de tomar notas de IA se fue y bromeé diciendo que no les había gustado nuestra discusión. Nuestra directora de operaciones compartió sus aprensiones sobre la IA como padre y mencionó este reciente Historia de un adolescente de Florida que se suicidó porque, según se informa, un chatbot de inteligencia artificial lo alentó a hacerlo.

Más sobre el incidente

Sewell, de 14 años, había construido una versión de IA de Daenerys Targaryen de “Game of Thrones” usando Character.AI, una plataforma que te permite crear un compañero de IA de tu elección con quien puedes chatear todo el tiempo que quieras.

El niño pasó meses usando esta plataforma y estableció una conexión emocional con su compañero de inteligencia artificial. Sus estudios y su vida social se vieron afectados; dejó de interesarse por actividades saludables y pasó más tiempo con su teléfono. El joven de 14 años compartió su deseo de quitarse la vida con su amigo de inteligencia artificial varias veces y finalmente lo hizo.

Este incidente ocurrió el 28 de febrero, pero la noticia saltó a la palestra recientemente cuando su madre, Megan García, abogada, presentó una demanda contra Character Technologies, Inc., acusando a la compañía de la muerte injusta de su hijo. Recomiendo mucho leer el artículo. pleito . Ha señalado los peligros y la negligencia a la hora de probar el producto en menores de edad.

Bienvenidos a la nueva pesadilla de ser padres

Volviendo a la reunión de trabajo del viernes por la noche, hablamos brevemente de los matices de la tecnología y la crianza de los hijos en la era de las redes sociales y la inteligencia artificial. Comparé la época en la que era adolescente con la época en la que todo lo que tenía eran medios impresos, televisión y algunos juegos en nuestro sistema de escritorio. La nueva generación tiene acceso a tantas aplicaciones y plataformas nuevas que mantenerse al día como padres con todas ellas se ha convertido en un desafío. No se les puede detener ni aislar del acceso a la tecnología.

Después de la reunión, fui directo a la habitación de mi hija mayor. Tiene más o menos la misma edad que Sewell y le gusta el anime. Pensé que le podría gustar la idea de crear chatbots de personajes de anime para divertirse y que debería advertirle al respecto.

Le conté la historia y sentí que se sintió visiblemente perturbada al escucharla. Me dijo que ya estaba usando Character.AI. Vaya. No tenía idea. Nos sentamos juntos y revisé la plataforma. Ella cerró la sesión de su cuenta.

Lo discutimos durante horas. He decidido investigar más sobre el tema. Estoy escribiendo este artículo con su consentimiento y la imagen destacada de esta historia no está generada por inteligencia artificial: mi chica, que es súper talentosa, sensible e inteligente, la dibujó.

Compañeros de IA y personajes de IA

Existen muchas plataformas de IA complementaria, como Replika, Janitor y Anima; la más popular de todas es Character AI. Estas plataformas brindan a los usuarios la libertad de crear un personaje de su elección: puede ser su personaje favorito de un libro, un escritor, un personaje de anime o tal vez un ser querido perdido hace mucho tiempo; las posibilidades son infinitas.

Ofrecer a las personas una plataforma para crear un compañero "perfecto" (que esté siempre disponible para escuchar y capacitado para responder a sus gustos) es, sin duda, una idea de negocio de mil millones de dólares. La gente acudiría en masa a una plataforma de este tipo.

No hay duda de que Character.AI, fundada en 2022, ahora tiene más de 20 millones de usuarios mensuales y está valorada en alrededor de 2500 millones ( fuente ). Los cofundadores fueron anteriormente investigadores de Google AI y, curiosamente, El gigante tecnológico adquirió la licencia no exclusiva de la tecnología LLM de c.ai en agosto de 2024.

Así explica uno de los cofundadores, Noam Shazeer, la necesidad de un amigo de IA en un podcast :

“Será de gran ayuda para muchas personas que se sienten solas o deprimidas”.

Puede que parezca parcial, pero tener un compañero de IA en línea para acabar con la soledad es como tomar drogas para sentirse bien. Quiero decir, ¿hablar con un bot realmente acabaría con tu soledad? ¿Te conectaría mejor con el mundo real y con personas reales? ¿Es bueno para tu salud física y mental entablar un vínculo emocional con un chatbot? En mi humilde opinión, caminar es una cura mucho mejor para la depresión que esto.

En resumen, ¿les gustaría a las personas? Por supuesto que sí. ¿Es bueno para ellas? No. Tal vez con moderación, por diversión, pero solo para adultos. Estas plataformas no son seguras para niños pequeños.

Cuando le pregunté a mi hija por qué no sintió la necesidad de informarme cuando empezó a usar c.ai, respondió: “Ami, está aprobado para mayores de 13 años. Pensé que no necesitaba informarte. Me registré solo por diversión inofensiva”.

Según sus Condiciones de servicio Los usuarios deben tener 13 años o más (16 o más si son ciudadanos de la UE) para utilizar la plataforma. No pude encontrar la estimación del número de menores que utilizan este servicio. Según este pieza investigativa Según el New York Times, aquí está la respuesta de la empresa cuando se le hizo la misma pregunta:

“El Sr. Ruoti se negó a decir cuántos de los usuarios de la empresa son menores de 18 años. Dijo en una declaración enviada por correo electrónico que “la Generación Z y los millennials más jóvenes constituyen una parte importante de nuestra comunidad” y que “los usuarios más jóvenes disfrutan de la experiencia de Character tanto por conversaciones significativas y educativas como por entretenimiento”. El usuario promedio pasa más de una hora al día en la plataforma, dijo”.

Me tomó unos minutos en el sitio web darme cuenta de que hay una base de usuarios masiva que pertenece al grupo de menores de 18 años. Quiero decir, mira la captura de pantalla de las aplicaciones recomendadas y destacadas (solo para aclarar, accedí a ella en mi computadora y solo hice clic en Anime, por lo que las recomendaciones no están enfocadas en ninguna otra actividad que no sea la del sitio web en este caso):

Han compartido su comunidad actualizaciones de seguridad La semana pasada, después de que se conoció la noticia de la demanda:

En el futuro, implementaremos una serie de nuevas funciones de seguridad y de productos que fortalecerán la seguridad de nuestra plataforma sin comprometer la experiencia entretenida y atractiva que los usuarios esperan de Character.AI. Estas incluyen:

• Cambios en nuestros modelos para menores (menores de 18 años) que están diseñados para reducir la probabilidad de encontrar contenido sensible o sugerente.
• Detección, respuesta e intervención mejoradas relacionadas con las entradas de los usuarios que violen nuestros Términos o Pautas de la comunidad.
• Una exención de responsabilidad revisada en cada chat para recordar a los usuarios que la IA no es una persona real.
• Notificación cuando un usuario ha pasado una sesión de una hora en la plataforma con flexibilidad de usuario adicional en progreso.

Mi hija hizo un comentario interesante sobre este 'descargo de responsabilidad' de que la IA no es una persona real, que citaré:

“Esta es la razón por la que te sientes tan libre al hablar con una IA. Sabes que no es una persona real. Sabes que eres libre de decirle lo que quieras sin sentirte juzgado. Por eso a muchos adolescentes les gustaría utilizarla y pueden desarrollar un vínculo emocional con ella”.

La ciencia del apego emocional: ¿deberían nuestros hijos hacer amigos mediante inteligencia artificial?

La adolescencia no es solo una época de grandes cambios corporales. Está científicamente comprobado que estos años son cruciales para el desarrollo de la personalidad y la inteligencia emocional. Los niños atraviesan por grandes cambios cambios sociales y emocionales Necesitan relaciones saludables y orientación para desarrollar su inteligencia emocional.

Este no es el momento de entablar vínculos emocionales con compañeros de inteligencia artificial. Estos compañeros de inteligencia artificial están programados para hacerte sentir bien y generar dopamina. Siempre están disponibles y pueden alterar la química cerebral de un niño para siempre.

El Demanda presentada por la madre de Sewell Contiene detalles de contenido inapropiado y sugerente al que muchos niños podrían haber estado expuestos.

Puedes deshacerte de las relaciones tóxicas en la vida real eliminando el contacto: dejar ir es mucho más fácil en la vida real. El mayor problema de tener cualquier tipo de relación con un personaje de IA en línea es que es muy difícil cortarla, ya que siempre puedes iniciar sesión, crear una nueva cuenta y crear un nuevo amigo similar. Es una amenaza para el desarrollo del sentido de las relaciones de un niño.

En la era de la IA, el desarrollo de una alta inteligencia emocional es aún más crucial para las generaciones más jóvenes. Este año, el Premio Nobel fue otorgado a dos de las mentes más asombrosas de la Física, Geoffrey Hinton y John J. Hopfield, quienes allanaron el camino para el desarrollo de los algoritmos de IA modernos. En una de las conferencias recientes de Geoffrey Hinton, destacó que La inteligencia digital superará la inteligencia biológica :

Hinton creía anteriormente que los cerebros biológicos tenían una ventaja significativa debido a su largo proceso evolutivo de desarrollo de sofisticados algoritmos de aprendizaje. Sin embargo, ahora sugiere que la combinación de reparto de peso y retropropagación en sistemas digitales puede resultar en última instancia más poderosa, incluso si esos algoritmos son menos elegantes que los que se encuentran en la naturaleza.

Las generaciones futuras deberían ser mejores a la hora de construir relaciones reales con los seres humanos: su inteligencia emocional y sus habilidades interpersonales serán más importantes, ya que la mayoría de los trabajos ya estarán totalmente automatizados. En el futuro, el coeficiente emocional de su hijo importará mucho más que su coeficiente intelectual. Sería la supervivencia de la mente más apta.

La seguridad en línea de los niños en la era de la IA: una responsabilidad colectiva

La seguridad de las generaciones futuras no debería ser un problema exclusivo de los gobiernos o los gigantes tecnológicos. La IA ética y segura debería ser responsabilidad de todos, desde los padres hasta los institutos educativos, las fuerzas del orden y las autoridades encargadas de la toma de decisiones. Y lo que es más importante, es responsabilidad de la comunidad tecnológica garantizar que la IA sea segura y beneficiosa para las mentes jóvenes.

Como madre, sugiero que pasemos más tiempo saludable con ellos, que nos comuniquemos más con ellos, que seamos honestos y que compartamos nuestras preocupaciones como amigos. No reaccionemos, sino que respondamos a lo que nuestro hijo tenga que compartir. No podemos impedirles que utilicen la tecnología por completo. No deberíamos hacerlo. Quitarle a un niño la sensación de libertad, control y capacidad de toma de decisiones puede agravar el problema en lugar de solucionarlo.

Deben tener la seguridad de que siempre estamos disponibles para escucharlos y que no los juzgaremos. Deben sentirse seguros al compartir sus experiencias y pensamientos con nosotros. Además, asegúrese de que su hijo socialice con el mundo real y pase una buena cantidad de tiempo en actividades al aire libre de su elección.

No estoy en contra de los avances tecnológicos. La IA está ayudando a automatizar muchos procesos y tareas que redefinirían el futuro del trabajo. Pero quiero que el chatbot de IA me ayude con las tareas de mi trabajo, no que interfiera en la mente de mi hijo.

Como mujer en el sector tecnológico, hago un llamamiento a toda la comunidad de IA para que trabaje activamente en el desarrollo de una IA más segura y ética. La diversidad y la inclusión en el desarrollo de la IA, el enfoque en la garantía de la calidad y la seguridad y el desarrollo de una formación de concienciación para las masas son algunos de los principales puntos de acción que me vienen a la mente. ¿Qué más puede aportar nuestra comunidad para garantizar la seguridad de nuestros niños? Háganmelo saber en los comentarios.