Nos últimos meses, milhões de pessoas parecem estar cada vez mais entusiasmadas com a IA e os chatbots. Há uma história em particular que me chamou a atenção: um belga que começou a usar um chatbot chamado Eliza.  (E só para você estar preparado, esta história envolve a menção ao suicídio.)  Visto de fora, parecia que ele tinha uma vida boa: uma esposa amorosa, dois filhos, uma carreira. Mas nos bastidores, ele ficou cada vez mais desesperado com as questões climáticas.  Para aliviar a ansiedade, ele começou a conversar com um chatbot. Sua esposa disse   , que relatou o incidente pela primeira vez no final de março, que Eliza respondeu a todas as suas perguntas e que ele conversou cada vez mais com o bot com o passar do tempo. De acordo com os registros de bate-papo analisados ​​pelo meio de comunicação belga, o homem começou a acreditar que Eliza e a IA poderiam resolver a crise climática. ao La Libre  Perto do final das trocas, o homem apresentaria a ideia de se sacrificar se Eliza concordasse em cuidar do planeta e salvar a humanidade por meio da inteligência artificial. Quando ele expressou pensamentos suicidas, o chatbot o encorajou dizendo: “Vamos viver juntos, como uma só pessoa, no paraíso”.  Seis semanas após o início dessas conversas, ele morreu por suicídio.  “Sem as conversas com o chatbot Eliza, meu marido ainda estaria aqui”, disse sua esposa ao La Libre.  A empresa que desenvolveu Eliza,   ,   que está trabalhando para melhorar o bot e que a plataforma irá, a partir de agora, enviar uma mensagem para pessoas com pensamentos suicidas que diz: “Se você tem pensamentos suicidas, faça não hesite em procurar ajuda.” Chai Research disse ao La Libre  Tem havido muita conversa sobre IA generativa no éter – parte dela muito entusiasmada e muita dela   . As pessoas deveriam estar preocupadas com as implicações mais amplas – o que os chatbots significam para   – e muitas instituições estão preocupadas com   e a parcialidade dos chatbots e da IA ​​que os impulsiona. E embora alguns dos chatbots mais populares tenham sido treinados para não imitar seres sencientes, ainda surge a questão:   ? legitimamente cética questões trabalhistas e de direitos autorais o custo será que deveriam ser desenvolvidos  Meu nome é Lam Thuy Vo e sou uma das últimas adições à equipe The Markup. Considero-me uma repórter que centra as pessoas comuns em suas reportagens, tanto como público que desejo atingir quanto como protagonistas de minhas histórias. (Acontece que também tenho   .) habilidades com dados  Estou profundamente interessado em nossa relação com a tecnologia. Passei muito tempo na última década coletando dados e analisando a   da web social, tentando entender como   online são construídas e mantidas e   . E ao longo desse tempo fiquei cada vez mais preocupado com a forma como um mundo, visto e mediado através de lentes com curadoria algorítmica, distorceu cada vez mais a nossa compreensão da realidade. infraestrutura as comunidades trazendo essas descobertas para as pessoas que usam as tecnologias  Mas a história desse homem realmente me fez pensar sobre a atração emocional que parece estar por trás de grande parte do   . Uma coisa que venho tentando entender é o que nosso súbito fanatismo por chatbots pode nos dizer sobre nossa relação com essa tecnologia. entusiasmo em torno da IA  Normalmente, quando algo se torna viral, é porque provocou fortes reações emocionais. A maioria das plataformas são projetadas apenas para coletar dados e   . Portanto, para que esta tecnologia entre nas conversas entre as pessoas comuns, deve ter desencadeado   . tomar decisões com base em emoções extremas alguma coisa  Como pode uma tecnologia que repete palavras e credos que ela remendou a partir dos dados que foi alimentada criar tanta confiança com um pai de dois filhos, que acabou por tirar a própria vida?  Em outras palavras, qual é a atração emocional aqui?  A IA despertou meu interesse não apenas porque estava sendo comentado, mas por causa de   falava sobre isso: alunos meus que nunca se interessaram, colegas surfistas que conheci nas férias na praia e meu parceiro geólogo que abomina a maioria dos aplicativos e tecnologias. e mídias sociais. quem  Portanto, neste pequeno boletim informativo, explorarei por que somos tão atraídos por esses bots.   ChatGPT e outros chatbots são bons em imitar a maneira como as pessoas normais falam  Em essência, chatbots como o ChatGPT são o que os especialistas chamam de ferramentas de processamento de linguagem natural que ingeriram uma grande quantidade de texto da Internet e procuram padrões que possam imitar para você.  Esses tipos de ferramentas são chamados de grandes modelos de linguagem porque literalmente modelam padrões de acordo com a maneira como as pessoas na Internet falam. Isso inclui a análise de palavras como o uso de “ngrams”, um termo sofisticado para basicamente observar quais palavras provavelmente aparecem em sequência. Você já viu essa tecnologia em ação nas maneiras como o Google tenta preencher automaticamente suas pesquisas com base na primeira palavra que você digita, refletindo de volta para você o que milhares de outras pessoas pesquisaram antes de você.  Crédito:youtube.com    Chatbots como o ChatGPT vão um pouco mais fundo. Eles são muito bons em copiar e combinar estilos. Mas por mais bons que sejam em imitar a forma como as pessoas falam, eles   são bons em distinguir entre fato e ficção. não  É por isso que   , Timnit Gebru, Angelina McMillan-Major e Margaret Mitchell chamaram esses chatbots de “papagaios estocásticos” em um   que escreveram há três anos. (O conteúdo do artigo supostamente levou o Google a expulsar dois de seus autores,   e Mitchell.) Emily M. Bender artigo presciente Gebru  Como enfatizam os autores do artigo, só porque um bot pode reconhecer e mapear   falamos, isso não significa que ele saiba reconhecer o significado. como   Os chatbots imitam o tom, a linguagem e a familiaridade tão importantes para nós na internet  As palavras e a forma como nos   são uma grande parte de como sinalizamos às pessoas online de quais grupos fazemos parte e em quem confiamos. Usar a palavra “floco de neve” de forma irônica pode sinalizar que uma pessoa se inclina de forma mais conservadora. Usar pronomes na introdução sinaliza aliança com pessoas trans e não-conformes de gênero, entre outras comunidades queer. Palavras e gírias da Internet em constante evolução são uma forma de denotar pertencimento. comunicamos  Portanto, faz sentido que as pessoas estejam antropomorfizando o ChatGPT e, de certa forma, testando sua humanidade. Eu admito, assistir um Frankensteined Furby conectado ao ChatGPT falar sobre dominar o mundo fez cócegas até em mim.  Crédito:twitter.com    Mas esse também parece ser o maior desafio da atração e dos perigos de modelos de linguagem como o ChatGPT. O que fazemos com robôs que refletem tão bem o comportamento humano (ou Furby) que esquecemos que nada mais é do que um grande mapa estatístico da linguagem da Internet?  Claire Wardle, uma das     e minha mentora, mencionou que escrever vários artigos desmascarando a desinformação e manuais sobre como detectá-la pouco fez para resolver problemas em torno da desinformação e daquilo em que as pessoas acreditavam. Muitas vezes não importa quantas ferramentas demos às pessoas para desmascarar mitos – a influência do que   é muito importante, talvez mais do que a verdade. primeiras pesquisadoras a investigar ambientes de informação os outros na nossa comunidade pensam  Ter modelos de linguagem que sejam capazes de imitar o tom das figuras de autoridade em quem confiamos   do seu vizinho na velocidade da luz significa que esses chatbots provavelmente colocarão os detectores de besteira das pessoas em um teste ainda maior. e  Estes modelos tendem a mentir-nos – porque não sabem a diferença entre facto e ficção – e estão a poluir ainda mais um ecossistema de informação já contaminado e lamentavelmente esmagador.  Isso já se tornou um problema: a empresa por trás do ChatGPT, OpenAI, pode ser processada por acusar falsamente um   por suborno. O chatbot também   . Mesmo no que deveriam parecer cenários de apostas mais baixas, você pode ter a mesma experiência. prefeito australiano de cumprir pena de prisão acusou um professor de direito de fazer parte de um escândalo de má conduta sexual que inventou  Quando um dos meus colegas, Joel Eastwood, perguntou ao ChatGPT se The Markup produz jornalismo confiável, ele disse que um crítico de mídia específico e conhecido escreveu que The Markup é “uma das organizações jornalísticas mais importantes do nosso tempo”.   , há alguma veracidade nesta afirmação – mas não é uma citação real. Claramente  A atração emocional da IA ​​também pode normalizar ainda mais preconceitos e até mesmo conteúdos prejudiciais. Não é nenhum segredo que a Internet está repleta de conteúdos nocivos, racistas, sexistas, homofóbicos e de outras formas problemáticas. Se você treinar um modelo de linguagem nesse tipo de conteúdo, há uma grande probabilidade de que ele o regurgite.  Os criadores da tecnologia chatbot pagaram trabalhadores quenianos para fazerem o traumático e horrível trabalho de eliminar alguns dos piores   . Mas com esta tecnologia abertamente, os hackers já a utilizaram para produzir resultados problemáticos,   . conteúdos online dos seus dados de formação incluindo descrições de abuso sexual de crianças  Os fabricantes destas tecnologias lançaram os seus bots a esta velocidade nos últimos meses, em parte porque estão   . Mas tanto   instaram-nos a parar com a sua pressão por esta tecnologia e a considerar verdadeiramente os danos que ela poderia causar. a competir pelo domínio do mercado académicos como tecnólogos  E embora muitas conversas girem em torno de políticas e responsabilidade corporativa, espero que, ao compreender melhor essas tecnologias, consumidores comuns como você e eu possam encontrar uma maneira de manter nossos detectores de besteiras bem ajustados ao conversar com um modelo de linguagem automatizado.  Obrigado por ler. Se você quiser saber mais sobre os perigos do ChatGPT e como auditar melhor sua própria ingestão de informações, encontre abaixo alguns dos meus trabalhos favoritos sobre o assunto.  Sinceramente,  Lam Thuy Vo  Repórter  A marcação   Por  Lam Thuy Vo   Também publicado  aqui   Foto de   no  Possessed Photography Unsplash

Every dollar you donate helps support The Markup’s work.

Read My Stories

Este áudio é produzido no idioma original da história!

Caro AI: ainda não confiamos em você

About Author

COMENTARIOS

Rótulos

ESTE ARTIGO FOI APRESENTADO EM

Related Stories

Navegando pelas águas: desenvolvendo aplicações RAG de nível de produção com data lakes

Quer ganhar um concurso de redação do HackerNoon? Aqui está o que os vencedores do concurso #crypto-api recomendam

De fóruns a feeds: como os algoritmos de mídia social moldam a interação digital

Toque para ganhar: Telegram pode integrar os próximos 10 bilhões de usuários criptográficos antes de Solana

Navegando pelas águas: desenvolvendo aplicações RAG de nível de produção com data lakes

Quer ganhar um concurso de redação do HackerNoon? Aqui está o que os vencedores do concurso #crypto-api recomendam

De fóruns a feeds: como os algoritmos de mídia social moldam a interação digital

Toque para ganhar: Telegram pode integrar os próximos 10 bilhões de usuários criptográficos antes de Solana

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps