En los últimos meses, millones de personas parecen estar cada vez más entusiasmadas con la IA y los chatbots. Hay una historia particular que me llamó la atención: un belga que empezó a utilizar un chatbot llamado Eliza.  (Y para que estés preparado, esta historia incluye la mención del suicidio).  Desde fuera parecía que tenía una buena vida: una esposa amorosa, dos hijos y una carrera. Pero detrás de escena, se desesperó cada vez más por las cuestiones climáticas.  Para aliviar su ansiedad, empezó a conversar con un chatbot. Su esposa le dijo   , que informó por primera vez sobre el incidente a fines de marzo, que Eliza respondió todas sus preguntas y que conversaba cada vez más con el bot a medida que pasaba el tiempo. Según los registros de chat que revisó el medio belga, el hombre empezó a creer que Eliza y AI podrían resolver la crisis climática. a La Libre  Hacia el final de sus intercambios, el hombre plantearía la idea de sacrificarse si Eliza aceptaba cuidar el planeta y salvar a la humanidad a través de la inteligencia artificial. Cuando expresó pensamientos suicidas, el chatbot lo animó diciendo: "Viviremos juntos, como una sola persona, en el paraíso".  Seis semanas después de estas conversaciones, se suicidó.  “Sin sus conversaciones con el chatbot Eliza, mi esposo todavía estaría aquí”, dijo su esposa a La Libre.  La empresa que desarrolló Eliza,   , le   que están trabajando para mejorar el bot y que la plataforma, a partir de ahora, enviará un mensaje a las personas con pensamientos suicidas que dice: “Si tienes pensamientos suicidas, no lo hagas”. No dudes en buscar ayuda”. Chai Research dijo a La Libre  Se ha hablado mucho sobre la IA generativa en el éter; en parte, muy entusiasta y en parte,   . La gente debería preocuparse por las implicaciones más amplias (lo que significan los chatbots para   ) y muchas instituciones están preocupadas por   y el sesgo de los chatbots y la IA que los impulsa. Y aunque algunos de los chatbots más populares han sido entrenados para no imitar a seres sintientes, todavía surge la pregunta:   ? con razón, escéptico las cuestiones laborales y de derechos de autor el costo ¿deberían desarrollarse  Mi nombre es Lam Thuy Vo y soy una de las últimas incorporaciones al equipo de The Markup. Me considero una reportera que centra sus reportajes en la gente común, como audiencia a la que quiero llegar y como protagonistas de mis historias. (Resulta que también tengo   ). habilidades con los datos  Estoy profundamente interesado en nuestra relación con la tecnología. He pasado mucho tiempo durante la última década recopilando datos y analizando la   de la web social, tratando de comprender cómo se construyen y mantienen   en línea y   . Y durante ese tiempo me he preocupado cada vez más por cómo un mundo, visto y mediado a través de una lente seleccionada algorítmicamente, ha deformado cada vez más nuestra comprensión de la realidad. infraestructura las comunidades llevando estos hallazgos a las personas que usan las tecnologías  Pero la historia de este hombre realmente me ha hecho preguntarme sobre el atractivo emocional que parece subyacer en gran parte del   . Una cosa que he estado tratando de entender es qué puede decirnos nuestro repentino fanatismo por los chatbots sobre nuestra relación con esta tecnología. revuelo en torno a la IA  Normalmente, cuando algo se vuelve viral es porque ha provocado fuertes reacciones emocionales. La mayoría de las plataformas están diseñadas únicamente para recopilar datos y   . Entonces, para que esta tecnología entre en las conversaciones entre la gente común, debe haber desencadenado   . tomar decisiones basadas en emociones extremas algo  ¿Cómo puede una tecnología que repite palabras y credos que ha ensamblado a partir de los datos que ha recibido generar tanta confianza en un padre de dos hijos, que finalmente se quitó la vida?  En otras palabras, ¿cuál es el atractivo emocional aquí?  La IA despertó mi interés no solo porque se hablaba de ella, sino también por   hablaba de ella: estudiantes míos que nunca habían estado interesados, compañeros surfistas que conocí en unas vacaciones en la playa y mi socio geólogo que aborrece la mayoría de las aplicaciones y tecnologías. y redes sociales. quién  Entonces, en este pequeño boletín, exploraré por qué nos atraen tanto estos robots.   ChatGPT y otros chatbots son buenos para imitar la forma en que habla la gente normal.  En esencia, los chatbots como ChatGPT son lo que los expertos llaman herramientas de procesamiento del lenguaje natural que han ingerido una gran cantidad de texto de Internet y buscan patrones que puedan imitar.  Este tipo de herramientas se denominan grandes modelos de lenguaje porque, literalmente, modelan patrones según la forma en que habla la gente en Internet. Esto incluye analizar palabras como el uso de "ngramas", un término elegante para básicamente observar qué palabra o palabras es más probable que vayan en secuencia. Ya ha visto esta tecnología en juego en las formas en que Google intenta autocompletar sus búsquedas basándose en la primera palabra que ingresa, reflejando lo que miles de personas antes han buscado.  Crédito: youtube.com    Los chatbots como ChatGPT van un poco más allá. Son muy buenos copiando y combinando estilos. Pero por muy buenos que sean para imitar cómo habla la gente,   son buenos para distinguir entre realidad y ficción. no  Es por eso que   , Timnit Gebru, Angelina McMillan-Major y Margaret Mitchell llamaron a estos chatbots "loros estocásticos" en un   que escribieron hace tres años. (El contenido del artículo supuestamente llevó a Google a expulsar a dos de sus autores,   y Mitchell). Emily M. Bender artículo profético Gebru  Como enfatizan los autores del artículo, sólo porque un robot pueda reconocer y mapear   hablamos, no significa que sepa cómo reconocer el significado. cómo   Los chatbots imitan el tono, el lenguaje y la familiaridad que son tan importantes para nosotros en Internet  Las palabras y la forma en que nos   son una gran parte de cómo indicamos a las personas en línea de qué grupos formamos parte y en quién confiamos. Usar la palabra "copo de nieve" de manera burlona puede indicar que una persona se inclina de manera más conservadora. El uso de pronombres en la presentación indica una alianza con personas trans y de género no conforme, entre otras comunidades queer. Las palabras y la jerga de Internet en constante evolución son una forma de denotar pertenencia. comunicamos  Por lo tanto, tiene sentido que la gente esté antropomorfizando ChatGPT y, en cierto modo, poniendo a prueba su humanidad. Lo admito, ver a un Furby Frankenstein conectado a ChatGPT hablar sobre conquistar el mundo me hizo cosquillas incluso a mí.  Crédito: twitter.com    Pero ese también parece ser el mayor desafío: el atractivo y los peligros de modelos de lenguaje como ChatGPT. ¿Qué hacemos con los robots que reflejan tan bien el comportamiento humano (o Furby) que olvidamos que no es más que un gran mapa estadístico del lenguaje de Internet?  Claire Wardle, una de las     y mentora mía, mencionó que escribir numerosos artículos que desacreditaban la información errónea y manuales sobre cómo detectarla hizo poco para resolver los problemas relacionados con la información errónea y lo que la gente creía. A menudo no importa cuántas herramientas hayamos dado a la gente para desacreditar los mitos: la influencia de lo que   es muy importante, tal vez más que la verdad. primeras investigadoras en entornos de información otros en nuestra comunidad piensan  Tener modelos de lenguaje que sean capaces de imitar el tono tanto de las figuras de autoridad en las que confiamos   de su vecino de al lado a la velocidad de la luz significa que estos chatbots probablemente pondrán a prueba aún más los detectores de bs de las personas. como  Estos modelos tienden a mentirnos (porque no conocen la diferencia entre realidad y ficción) y están contaminando aún más un ecosistema de información ya contaminado y lamentablemente abrumador.  Esto ya se ha convertido en un problema: la empresa detrás de ChatGPT, OpenAI, puede ser demandada por acusar falsamente a un   por soborno. El chatbot también   . Incluso en lo que deberían parecer escenarios de menor riesgo, puedes tener la misma experiencia. alcalde australiano de cumplir condena en prisión acusó a un profesor de derecho de ser parte de un escándalo de conducta sexual inapropiada que inventó  Cuando uno de mis colegas, Joel Eastwood, preguntó a ChatGPT si The Markup produce periodismo confiable, dijo que un crítico de medios específico y conocido escribió que The Markup es "una de las organizaciones periodísticas más importantes de nuestro tiempo".   , hay cierta veracidad en esta afirmación, pero no es una cita real. Claramente  El atractivo emocional de la IA también puede normalizar aún más los prejuicios e incluso el contenido dañino. No es ningún secreto que Internet está repleto de contenido dañino, racista, sexista, homofóbico y, por lo demás, problemático. Si entrenas a un modelo de lenguaje en este tipo de contenido, existe una alta probabilidad de que lo regurgite.  Los creadores de la tecnología chatbot han pagado a trabajadores kenianos para que realicen el traumático y espantoso trabajo de eliminar algunos de los peores   . Pero con esta tecnología a la vista, los piratas informáticos ya la han utilizado para producir resultados problemáticos,   . contenidos en línea de sus datos de capacitación incluidas descripciones de abuso sexual de niños  Los creadores de estas tecnologías han implementado sus robots a tal velocidad en los últimos meses, en parte porque están   . Pero tanto   instado a detener su impulso a favor de esta tecnología y considerar verdaderamente los daños que podría causar. compitiendo por el dominio del mercado los académicos como los tecnólogos los han  Y si bien muchas conversaciones giran en torno a políticas y responsabilidad corporativa, espero que al comprender mejor estas tecnologías, los consumidores cotidianos como usted y yo podamos encontrar una manera de mantener nuestros detectores de bs bien sintonizados cuando conversamos con un modelo de lenguaje automatizado.  Gracias por leer. Si desea obtener más información sobre los peligros de ChatGPT y cómo auditar mejor su propia entrada de información, encuentre algunos de mis trabajos favoritos sobre el tema a continuación.  Atentamente,  Lam Thuy Vo  Reportero  El marcado   Por  Lam Thuy Vo   También publicado  aquí   Foto de   en  Fotografía poseída Unsplash

Every dollar you donate helps support The Markup’s work.

Read My Stories

Este audio es producido en el idioma original de la historia!

Querida IA: todavía no confiamos en ti

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

La guía completa para una migración exitosa a la nube: estrategias y mejores prácticas

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

El modelo Bitcoin UTXO, impulsando un ecosistema único

La guía completa para una migración exitosa a la nube: estrategias y mejores prácticas

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

El modelo Bitcoin UTXO, impulsando un ecosistema único

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps