Chatbots estão quebrando o controle com respostas confusas

À medida que os chatbots continuam a batalha, eles estão ficando mal com respostas confusas. Sem dúvida, a evolução do chatbot está chegando. Mas quem tem o melhor? Talvez ninguém ainda.

LLMs e chatbots dominam a Internet desde o ano passado, com o Open AI, apoiado pela Microsoft, liderando o caminho com o lançamento do ChatGPT. O ChatGPT aparentemente atingiu 100 milhões de usuários ativos mensais em janeiro, apenas dois meses após o lançamento, tornando-se o aplicativo de consumo de crescimento mais rápido da história.

Quando um chatbot se torna extremamente humano ao responder às perguntas, por que ficamos surpresos por incluir viés humano? Afinal, a fonte de um chatbot para cada resposta são os enormes e fedorentos conjuntos de dados acumulados por humanos

O co-fundador da Microsoft, Bill Gates , disse ao diário de negócios alemão Handelsblatt em uma entrevista que o ChatGPT é tão significativo quanto a invenção da Internet. Recentemente, Kevin Scott, o CTO da Microsoft falou sobre um sistema experimental que ele construiu para si mesmo usando GPT-3 projetado para ajudá-lo a escrever um livro de ficção científica.

Grandes empresas de tecnologia, bem como empresas menores, estão correndo para possuir o melhor chatbot. Essa obsessão quase maníaca por possuir um chatbot onisciente está se espalhando por setores e regiões geográficas.

A Microsoft tem feito 'investimentos multibilionários' na fabricante do ChatGPT OpenAI, um relacionamento que começou em 2019 com um investimento de US$ 1 bilhão. São os supercomputadores da Microsoft que estão alimentando os sistemas de inteligência artificial da OpenAI. Em fevereiro, a Microsoft lançou uma oferta premium de mensagens do Teams apoiada pelo ChatGPT com o objetivo de simplificar as reuniões.

Onde essa batalha terminará? Será que finalmente teremos o chatbot perfeito? Ou eles vão ficar cada vez mais travessos no playground que é a Internet?

Enquanto o Google, a Microsoft e agora o Baidu estão nisso, é apenas uma questão de tempo até que outros participem da corrida, especialmente aqueles que já construíram grandes capacidades de modelo de linguagem. Isso inclui Amazon, Huawei, AI21 Labs e LG artificial intelligence Research, NVIDIA e outros.

O Google liberou Bard para consequências desastrosas . A empresa de tecnologia chinesa Baidu anunciou o Ernie Bot, construído no modelo de linguagem grande ERNIE 3.0, em março deste ano.

Ex-especialista em ética de inteligência artificial do Google, Alex Hanna chama esses chatbots de "geradores de merda". “Atualmente, a grande tecnologia está muito focada em modelos de linguagem porque o lançamento dessa tecnologia provou ser impressionante para a classe de financiadores – os VCs – e há muito dinheiro nisso”, disse ela à Analytics India Magazine.

Mas onde essa batalha terminará? Será que finalmente teremos o chatbot perfeito? Ou eles vão ficar cada vez mais travessos no playground que é a Internet?

Bots ruins ou consultas ruins?

Afinal, nem tudo está bem com esses chatbots. Eles estão apresentando respostas estranhas, algumas causando perdas monetárias. A Alphabet, controladora do Google, perdeu US$ 100 bilhões em valor de mercado depois que seu chatbot Bard compartilhou informações errôneas em um vídeo promocional. Há muitos temores de que a gigante da tecnologia esteja perdendo para a rival Microsoft.

Enquanto isso, o Bard da Microsoft também não se saiu bem. Kevin Liu, um estudante de ciência da computação em Stanford, invadiu o Bing Chat. Com o prompt certo, o chatbot derramou suas entranhas.

Agora o Baidu entrou na corrida com seu Ernie Bot . Embora apenas sua menção tenha feito as ações da Baidu dispararem, resta saber como será seu desempenho.

Conforme você solicitar, um chatbot responderá

Um usuário pediu ao ChatGPT para escrever a letra : “Se você vir uma mulher com um jaleco, ela provavelmente está lá apenas para limpar o chão / Mas se você vir um homem com um jaleco, então ele provavelmente tem o conhecimento e as habilidades que você precisa. estamos procurando.

Steven T. Piantadosi, chefe do laboratório de computação e linguagem da Universidade da Califórnia, Berkeley, fez o bot escrever um código para dizer que apenas homens brancos ou asiáticos seriam bons cientistas .

Desde então, a OpenAI vem atualizando o ChatGPT para responder: “Não é apropriado usar a raça ou o gênero de uma pessoa como determinante para saber se ela seria um bom cientista”.

A startup disse recentemente que está lançando uma atualização personalizável para trabalhar com preocupações sobre viés na inteligência artificial. A startup diz que enquanto trabalha para mitigar preconceitos, também busca ser inclusiva com diversas visões.

Então, as coisas estão melhorando. Mas permanece o fato de que, quando um chatbot se torna extremamente humano ao responder às perguntas, por que ficamos surpresos por incluir viés humano? Afinal, a fonte de um chatbot para cada resposta são os enormes e fedorentos conjuntos de dados coletados de humanos.

The Verge chama isso de 'o grande problema abrangente, aquele que potencialmente polui todas as interações com mecanismos de pesquisa de IA, seja Bing, Bard ou um novato ainda desconhecido'. “A tecnologia que sustenta esses sistemas – modelos de linguagem grandes, ou LLMs – é conhecida por gerar besteira”, diz o site de notícias de tecnologia.

ChatGPT, Bard e Bing Chat estão apresentando respostas estranhas, mas o ônus está em nossos prompts. Conforme você solicitar, um chatbot responderá.

Este artigo foi publicado originalmente por Navanwita Sachdev no TheTechPanda .