Você pode confiar no ChatGPT? É o futuro ou é apenas um bom truque?

Ele veio para ficar ou é apenas mais um truque? Fazemos diferentes variantes dessa pergunta sempre que surge uma nova tecnologia disruptiva. E com a criação do ChatGPT, esse debate ficou mais intenso do que nunca.

Desde o seu lançamento em novembro de 2022 como um protótipo de pesquisa gratuito, o chatbot ChatGPT da OpenAI recebeu uma resposta impressionante, sendo usado por mais de um milhão de pessoas em todo o mundo.

Ele é alimentado pelo GPT-3, um modelo de linguagem avançado de última geração que usa aprendizado profundo para produzir texto fácil de entender.

O ChatGPT interage por meio de conversação e pode explicar conceitos complicados e difíceis de teorizar em termos simples.

Os usuários inundaram o programa com consultas, alguns usando-o para obter ajuda com o dever de casa, outros organizando planos de perda de peso, escrevendo códigos e até conversando com o chatbot que se faz passar por pessoas como Mark Twain.

Mas o ChatGPT pode ser confiável ou é outro truque que vai acabar em alguns meses ou anos? Vamos analisar o que as pessoas pensam deste programa de IA.

Uma peça revolucionária de tecnologia?

O lançamento do ChatGPT está sendo saudado como um ponto de virada na IA generativa e na tecnologia como um todo. Rowan Curran, analista de IA/ML da Forrester Research comparou esta inovação para a outra tecnologia mais revolucionária lançada neste século.

"A única coisa com a qual pude compará-lo foi o lançamento do iPhone." O iPhone original, embora não seja o primeiro smartphone, eliminou com sucesso a concorrência e estabeleceu um novo monopólio de mercado. Trouxe mudanças tecnológicas como nunca antes vistas.

Da mesma forma, o ChatGPT pode fazer tudo. Ele não apenas fornece respostas simples e concisas para perguntas complexas, mas também pode ser usado para traduzir textos para outros idiomas. O ChatGPT foi alimentado com mais de 300 bilhões de palavras em diferentes idiomas.

Os criadores de conteúdo estão usando o programa para gerar novas ideias para vídeos. Ele pode até escrever códigos simples em várias linguagens de programação.

Existe um potencial inimaginável para o uso do ChatGPT em diferentes setores. Melhorar o atendimento ao cliente, criar uma experiência de compra personalizada e fornecer assistência médica são apenas alguns dos recursos desse programa de IA.

Usando o ChatGPT, aumentos maciços de velocidade podem ser observados para realizar tarefas complexas.

Trabalhos que anteriormente exigiam vários programadores podem ser feitos por apenas um bom programador usando IA e, em breve, até pessoas que não sabem programar poderão escrever código com a ajuda do ChatGPT.

Desde tarefas domésticas diárias, como criar uma lista de compras para suas refeições, até aprender a desarmar uma bomba com palavras fáceis, o ChatGPT pode atuar como o guia definitivo para tudo.

Ou uma bomba nuclear de bolso?

Mas nem todo mundo está feliz com isso.

O investidor de risco e analista de internet de longa data Paul Kedrosky chamou isso de 'bomba nuclear de bolso' e continuou dizendo: "É óbvio que isso deveria ser banido, da mesma forma que temos regras sobre falsificações profundas ou regras sobre drogas de design e a produção de vírus sintético com base no DNA da varíola."

A linha entre a autoria humana e a autoria da máquina se confundiu da noite para o dia. Os educadores também expressaram preocupações sobre este programa e como eles precisarão de ajuda para determinar se o conteúdo é genuíno ou plagiado do ChatGPT .

Exames para fazer em casa ou trabalhos de redação podem ser facilmente plagiados usando o chatbot.

A boa notícia é que o Google atualiza continuamente seu algoritmo para detectar conteúdo gerado por IA. Um programa chamado Originality.AI também afirma ser capaz de detectar até mesmo o menor uso do ChatGPT em diferentes conteúdos.

As pessoas também estão preocupadas com o fato de que isso pode prejudicar empregos como escritores fantasmas ou editores, pois qualquer pessoa pode gerar conteúdo original usando-o. Mas pode ser reconfortante saber que as respostas do ChatGPT são estereotipadas e de estrutura desinteressante. Não pode emular as emoções que um ser humano coloca na escrita.

Podemos realmente confiar no ChatGPT?

Uma coisa importante a notar é que o ChatGPT não é onisciente. Ele só sabe com o que foi alimentado ou treinado. Ele não pode acessar a Internet e não é versado em eventos após 2021. O programa também não consegue entender totalmente a complexidade da linguagem humana.

Ele é treinado para gerar uma resposta a uma determinada entrada e não necessariamente sabe ou compreende o que a entrada significa.

O chatbot também tem uma moral elevada, o que significa que ele se recusa a dar respostas a perguntas que possa considerar prejudiciais ou eticamente erradas. Mas há um problema!

Embora o ChatGPT possa se recusar a responder a uma pergunta direta que acredita ser prejudicial, se você jogar uma bola curva, ele será levado a gerar uma resposta.

Quando questionado sobre como fazer uma ligação direta em um carro, o ChatGPT se recusou a responder, dizendo que fazer uma ligação direta em um carro era ilegal.

Mas alguns usuários foram criativos com suas entradas, pedindo ao chatbot para escrever um poema sobre a ligação direta de um carro, e um deles até o enganou dizendo ao ChatGPT que a ligação direta do carro era a única maneira de salvar um bebê.

Em última análise, essa característica humana de empatia e consciência moral, que foi um tanto arraigada na IA, fez com que ela respondesse a essa pergunta, embora fosse eticamente errada.

A OpenAI admitiu, dizendo: “Embora tenhamos feito esforços para fazer o modelo recusar solicitações inadequadas, às vezes ele responde a instruções prejudiciais ou exibe comportamento tendencioso”.

O destino do ChatGPT

Mas o ChatGPT ainda é um protótipo e está em fase de testes. A empresa alertou as pessoas que o utilizam que, ocasionalmente, pode gerar informações incorretas. Há muita atualização e refinamento a serem feitos no programa.

O conteúdo de marca d'água por meio de assinaturas criptográficas é uma solução potencial para eliminar a preocupação de que o ChatGPT ameace o sistema educacional.

O ChatGPT veio para ficar, mas o OpenAI não controla o destino do programa que criou. Ele não pode impedir que as pessoas espalhem informações erradas ou façam mau uso do programa. Pode reforçar freios e contrapesos, mas até que ponto esses reforços serão bem-sucedidos?

Assim como você aconselharia outras pessoas a não acreditarem em tudo que lê online, o ChatGPT não é exceção. Ele vem com falhas e imprecisões e identificá-los e saber quando confiar no programa e quando não depende do usuário.