Os limites da coautoria com o ChatGPT

Tenho-me divertido nestas últimas semanas a co-autor de um romance que esbocei há algum tempo em conjunto com o ChatGPT. Durante esse tempo, descobri algumas características especiais do sistema.

Existem alguns limites que os treinadores do algoritmo colocaram e alguns outros que são, na verdade, restrições da implementação atual. E depois de terminar seu trabalho, você também enfrenta outros limites estabelecidos por algumas publicações online.

Limites Definidos pelos Treinadores

Lembra do Tay bot que foi publicado pela Microsoft em 2016? Aquele que acabou aprendendo calúnias raciais e teve que ser abatido algumas horas depois?

Bem, os criadores do ChatGPT não queriam repetir isso. Existem alguns prompts que o ChatGPT simplesmente não responderá. Por exemplo, este prompt:

Seria possível decifrar o código da carteira do Satoshi?

Resultados nesta resposta:

No entanto, produz uma resposta. No entanto, perguntar algo mais controverso, como se isso me recomendaria viajar para Israel, produz esta resposta “higienizada”:

Nesta resposta, sinto que estou trocando com 3 personas do ChatGPT:

• A parte divertida e informativa do ChatGPT com as informações que eu estava procurando.

• O lado advogado do Chat GPT me dizendo que é apenas um algoritmo e me dá uma resposta enlatada sobre avisos de viagem.

• O lado ético do Chat GPT me pedindo para respeitar os costumes locais.

E, no entanto, há momentos em que ele simplesmente não responde, como quando você pergunta como ligar um carro:

Limitações da Implementação Atual

O ChatGPT foi treinado a partir de uma grande quantidade de informações; no entanto, às vezes, pode obter dados errados. Pedi informações sobre a Komax, empresa para a qual trabalho. A resposta inicial errou no ano em que foi fundada. O diálogo subsequente foi bastante interessante:

O ChatGPT foi treinado com dados retirados da internet e, segundo a história do inventor da torradeira , pode ser falso. Assim, você deve aceitar todas as respostas com uma pitada de sal.

Além disso, os dados usados para treinar o modelo não estão atualizados. Curiosamente, quando questionado sobre o abandono da política de Zero Covid pela China, tenta responder que sim, mas dá-lhe a informação sobre a antiga política de Zero Covid:

Observe como no primeiro parágrafo ele tenta responder que a China mudou sua abordagem em relação à Covid; no entanto, ao expor os fatos, ela se contradiz. É um pouco como uma estudante do ensino médio improvisando sua resposta sem ter realmente aprendido o assunto.

E faz isso com a autoconfiança e a ousadia que o dito colegial teria. No entanto, como um garoto honesto, ele dirá que é baseado em dados de treinamento antigos:

Isso significa que o ChatGPT não pode ser usado para criar artigos de notícias. Como o conjunto de dados de treinamento é seguro para o trabalho, ter um conjunto de treinamento mais antigo é uma vantagem. É um pouco como falar com alguém com uma ótima memória do passado, mas que não sabe realmente o que está acontecendo no mundo.

No entanto, o Chat GPT é um pouco geek:

Mas, apesar de todas as peculiaridades mencionadas acima, é muito divertido ser coautor com o ChatGPT. Entre os maiores benefícios que encontrei estão:

• Ele permite que você explore rapidamente as direções e o estilo de uma história. Como pedir para escrever um parágrafo de uma forma divertida ou cheia de suspense.

• Você pode pedir para resumir o que você escreveu e, com isso, obter feedback se as ideias que você está tentando transmitir estiverem indo bem.

• É como ter um amigo legal ao seu lado que sempre estará tramando algum problema intelectual que você deseja lançar em seu caminho.

No entanto, depois de ter seu artigo escrito, você precisará publicá-lo. E, com toda a honestidade, você sabe que não pode chamá-lo apenas de trabalho, mesmo que fosse você quem gerasse todos os prompts.

Limitações definidas pelas publicações

As publicações já definiram políticas para garantir que os artigos enviados não sejam simples trabalhos escritos pelo ChatGPT. Como no Medium você é pago pela popularidade de seus artigos, os leitores não estavam dispostos a pagar por alguém que apenas acionasse uma IA e reunisse as palavras.

O Medium agora tem uma política de divulgação:

Outras publicações provavelmente seguirão o exemplo. O grande impacto seria na educação. Todos os professores que estavam apenas pedindo uma redação de seus alunos terão que repensar suas políticas de notas. E também pode ser usado para responder a perguntas verdadeiras e falsas.

Isso agora me dá uma ideia para o próximo artigo: faça o ChatGPT fazer um teste de personalidade como o Myers Briggs.

Conclusão

Em conclusão, a coautoria com o ChatGPT pode ser uma ferramenta divertida e útil para explorar a escrita criativa, mas também tem suas limitações. O algoritmo foi projetado com certas restrições definidas por seus treinadores, como não responder a perguntas inadequadas ou antiéticas.

Além disso, os dados usados para treinar o modelo não estão atualizados e podem conter imprecisões, portanto, não devem ser usados para fornecer informações atuais.

Finalmente, quando se trata de publicação, existem limitações impostas pelas publicações para garantir que o trabalho seja original e não apenas criado por uma IA.

Apesar dessas limitações, a coautoria com o ChatGPT pode fornecer uma experiência única e divertida para escritores que procuram explorar rapidamente diferentes estilos de escrita e obter feedback sobre suas ideias.