Les limites de la co-création avec ChatGPT

Je me suis amusé ces dernières semaines à co-écrire un roman que j'avais croqué il y a quelques temps avec ChatGPT. Pendant ce temps, j'ai trouvé certaines caractéristiques particulières du système.

Il y a certaines limites que les entraîneurs de l'algorithme ont mises en place, et d'autres qui sont en fait des restrictions de l'implémentation actuelle. Et après avoir terminé votre travail, vous êtes également confronté à d'autres limites fixées par certaines publications en ligne.

Limites fixées par les formateurs

Vous vous souvenez du bo t Tay publié par Microsoft en 2016 ? Celui qui a fini par apprendre des insultes racistes et a dû être abattu quelques heures plus tard ?

Eh bien, les créateurs de ChatGPT ne voulaient pas répéter cela. Il y a certaines invites auxquelles ChatGPT ne répondra tout simplement pas. Par exemple, cette invite :

Serait-il possible d'ouvrir le code du portefeuille de Satoshi ?

Résultats dans cette réponse :

Pourtant, il produit une réponse. Cependant, demander quelque chose de plus controversé, comme s'il me recommanderait de voyager en Israël, produit cette réponse « aseptisée » :

Dans cette réponse, j'ai l'impression d'échanger avec 3 personas de ChatGPT :

• La partie factuelle et amusante de ChatGPT avec les informations que je cherchais.

• Le côté avocat de Chat GPT me dit qu'il ne s'agit que d'un algorithme et me donne une réponse standardisée sur les avertissements aux voyageurs.

• Le côté éthicien de Chat GPT me demande de respecter les coutumes locales.

Et pourtant, il y a des moments où il ne répondra tout simplement pas, comme lorsque vous demandez comment câbler une voiture :

Limites de la mise en œuvre actuelle

ChatGPT a été formé à partir d'une grande quantité d'informations ; mais parfois, il peut se tromper de données. J'ai demandé des informations sur Komax, une entreprise pour laquelle je travaille. La réponse initiale s'est trompée l'année de sa fondation. La boîte de dialogue qui a suivi était assez intéressante :

ChatGPT a été formé sur des données extraites d'Internet, et comme le raconte l'histoire de l' inventeur du grille-pain , cela peut être faux. Ainsi, vous devez prendre toutes les réponses avec des pincettes.

De plus, les données utilisées pour former le modèle ne sont pas à jour. Chose intéressante, lorsqu'on l'interroge sur l'abandon par la Chine de la politique Zero Covid, elle essaie de répondre par l'affirmative, mais elle vous donne des informations sur l'ancienne politique Zero Covid :

Notez comment dans le premier paragraphe, il tente de répondre que la Chine a modifié son approche vis-à-vis de Covid ; pourtant, en énonçant les faits, il se contredit. C'est un peu comme si une lycéenne livrait sa réponse sans avoir vraiment appris le truc.

Et il le fait avec la confiance en soi et le chutzpa que le dit lycéen aurait. Pourtant, comme un enfant honnête, il vous dira qu'il est basé sur d'anciennes données d'entraînement :

Cela signifie que ChatGPT ne peut pas être utilisé pour créer des articles de presse. Étant donné que l'ensemble de données d'entraînement est sûr pour le travail, disposer d'un ensemble d'entraînement plus ancien est un avantage. C'est un peu comme parler à quelqu'un qui a une grande mémoire du passé mais qui ne sait pas vraiment ce qui se passe dans le monde.

Pourtant, Chat GPT est un peu geek :

Mais malgré toutes les bizarreries mentionnées ci-dessus, c'est très amusant de co-écrire avec ChatGPT. Parmi les plus grands avantages que j'ai trouvés, il y a :

• Il vous permet d'explorer rapidement les directions et le style d'une histoire. Comme lui demander d'écrire un paragraphe de manière pleine de suspense ou amusante.

• Vous pouvez lui demander de résumer ce que vous avez écrit et, avec cela, d'obtenir des commentaires si les idées que vous essayez de transmettre sont bonnes.

• C'est comme avoir un ami cool à côté de vous qui sera toujours prêt à faire face à des problèmes intellectuels que vous voulez lui jeter.

Pourtant, une fois que vous avez écrit votre article, vous devrez le publier. Et en toute honnêteté, vous savez que vous ne pouvez pas appeler cela votre travail uniquement, même si vous étiez celui qui générait toutes les invites.

Limites fixées par les publications

Les publications ont déjà défini des politiques pour s'assurer que les articles soumis ne sont pas des œuvres simples écrites par ChatGPT. Étant donné que dans Medium, vous êtes payé par la popularité de vos articles, les lecteurs n'étaient pas disposés à payer pour quelqu'un qui lance simplement une IA et rassemble les mots.

Medium a désormais une politique de divulgation :

D'autres publications suivront probablement. Le gros impact serait sur l'éducation. Tous les enseignants qui demandaient juste une dissertation à leurs élèves devront repenser leurs politiques de notation. Et il peut également être utilisé pour répondre à des questions vraies et fausses.

Cela me donne maintenant une idée pour le prochain article : Demandez à ChatGPT de passer un test de personnalité comme le Myers Briggs.

Conclusion

En conclusion, la co-création avec ChatGPT peut être un outil amusant et utile pour explorer l'écriture créative, mais elle a aussi ses limites. L'algorithme a été conçu avec certaines restrictions fixées par ses formateurs, comme ne pas répondre aux questions inappropriées ou contraires à l'éthique.

De plus, les données utilisées pour former le modèle ne sont pas à jour et peuvent contenir des inexactitudes, il ne faut donc pas s'y fier pour fournir des informations actuelles.

Enfin, en ce qui concerne l'édition, il existe des limites fixées par les publications pour garantir que l'œuvre est originale et non uniquement créée par une IA.

Malgré ces limitations, la co-création avec ChatGPT peut offrir une expérience unique et divertissante aux rédacteurs qui cherchent à explorer rapidement différents styles d'écriture et à obtenir des commentaires sur leurs idées.