Pouvez-vous faire confiance à ChatGPT ? Est-ce l'avenir ou est-ce juste un bon gadget ?

Est-ce là pour rester, ou est-ce juste un autre gadget ? Nous posons différentes variantes de cette question chaque fois qu'une nouvelle technologie de rupture émerge. Et avec la création de ChatGPT, ce débat est devenu plus intense que jamais.

Depuis son lancement en novembre 2022 en tant que prototype de recherche gratuit, le chatbot ChatGPT d'OpenAI a rencontré une réponse écrasante, étant utilisé par plus d'un million de personnes dans le monde.

Il est alimenté par GPT-3, un modèle de langage avancé de pointe qui utilise l'apprentissage en profondeur pour produire un texte facile à comprendre.

ChatGPT interagit de manière conversationnelle et peut expliquer des concepts compliqués et difficiles à théoriser en termes simples.

Les utilisateurs ont inondé le programme de requêtes, certains l'utilisant pour obtenir de l'aide pour leurs devoirs, d'autres organisant des plans de perte de poids, écrivant du code et même ayant des conversations avec le chatbot se faisant passer pour des personnes comme Mark Twain.

Mais peut-on faire confiance à ChatGPT, ou est-ce un autre truc qui va exploser dans quelques mois ou années ? Analysons ce que les gens pensent de ce programme d'IA.

Une technologie révolutionnaire ?

La sortie de ChatGPT est saluée comme un tournant dans l'IA générative et la technologie dans son ensemble. Rowan Curran, analyste IA/ML chez Forrester Research comparé cette innovation à l'autre technologie la plus révolutionnaire de ce siècle.

"La seule chose à laquelle j'ai pu le comparer est la sortie de l'iPhone." L'iPhone d'origine, bien qu'il ne s'agisse pas du premier smartphone, a réussi à éliminer la concurrence et à établir un tout nouveau monopole sur le marché. Il a apporté des changements technologiques comme jamais vus auparavant.

De même, ChatGPT peut tout faire. Il donne non seulement des réponses simples et concises à des questions complexes, mais peut également être utilisé pour traduire du texte dans d'autres langues. ChatGPT a été alimenté avec plus de 300 milliards de mots dans différentes langues.

Les créateurs de contenu utilisent le programme pour générer de nouvelles idées de vidéos. Il peut même écrire du code simple dans divers langages de programmation.

Il existe un potentiel inimaginable pour l'utilisation de ChatGPT dans différentes industries. Améliorer le service client, créer une expérience d'achat personnalisée et fournir une assistance médicale ne sont que quelques-unes des capacités de ce programme d'IA.

En utilisant ChatGPT, des augmentations massives de vitesse peuvent être observées pour accomplir des tâches complexes.

Les tâches qui nécessitaient auparavant plusieurs programmeurs peuvent être effectuées par un seul bon programmeur utilisant l'IA, et bientôt, même les personnes qui ne savent pas programmer pourront écrire du code avec l'aide de ChatGPT.

Qu'il s'agisse de tâches subalternes quotidiennes telles que la création d'une liste de courses pour vos repas ou d'apprendre à désarmer une bombe avec des mots simples, ChatGPT peut servir de guide ultime pour tout.

Ou une bombe nucléaire de poche ?

Mais tout le monde n'en est pas content.

L'investisseur en capital-risque et analyste Internet de longue date, Paul Kedrosky, l'a qualifié de «bombe nucléaire de poche» et a poursuivi en disant: «Il est évident que cela devrait être interdit, de la même manière que nous avons des règles sur les contrefaçons profondes, ou des règles sur les drogues de synthèse et la production de virus synthétiques basés sur l'ADN de la variole."

La frontière entre la paternité humaine et la paternité de la machine s'est estompée du jour au lendemain. Les éducateurs ont également exprimé des inquiétudes au sujet de ce programme et de la manière dont ils auront besoin d'aide pour déterminer si le contenu est authentique ou plagié à partir de ChatGPT .

Les examens à faire à la maison ou les devoirs écrits peuvent facilement être plagiés à l'aide du chatbot.

La bonne nouvelle est que Google met continuellement à jour son algorithme pour détecter le contenu généré par l'IA. Un programme appelé Originality.AI prétend également être capable de détecter même l'utilisation la plus mineure de ChatGPT dans différents contenus.

Les gens craignent également que cela ne mette en péril des emplois comme des écrivains fantômes ou des éditeurs, car n'importe qui peut générer du contenu original en l'utilisant. Mais il peut être rassurant de savoir que les réponses de ChatGPT sont stéréotypées et sans intérêt dans leur structure. Il ne peut pas imiter les émotions qu'un humain met dans l'écriture.

Pouvons-nous vraiment faire confiance à ChatGPT ?

Une chose importante à noter est que ChatGPT n'est pas omniscient. Il sait seulement avec quoi il a été nourri ou entraîné. Il ne peut pas accéder à Internet et ne connaît pas bien les événements après 2021. Le programme est également incapable de comprendre pleinement la complexité du langage humain.

Il est formé pour générer une réponse à une entrée donnée et ne sait pas ou ne comprend pas nécessairement ce que signifie l'entrée.

Le chatbot a également une haute moralité qui signifie qu'il refuse de donner des réponses à des questions qu'il peut considérer comme nuisibles ou éthiquement erronées. Mais il y a un hic !

Bien que ChatGPT puisse refuser de répondre à une question simple qu'il juge nuisible, si vous lui lancez une boule de courbe, il sera amené à générer une réponse.

Lorsqu'on lui a demandé comment câbler une voiture, ChatGPT a refusé de répondre en disant que le câblage d'une voiture était illégal.

Mais certains utilisateurs ont fait preuve de créativité avec leurs contributions, demandant au chatbot d'écrire un poème sur le câblage à chaud d'une voiture, et l'un d'eux l'a même trompé en disant à ChatGPT que le câblage à chaud de la voiture était le seul moyen de sauver un bébé.

En fin de compte, cette caractéristique humaine d'empathie et de conscience morale, qui a été quelque peu enracinée dans l'IA, l'a amenée à répondre à une telle question même si elle était éthiquement erronée.

OpenAI l'a admis en disant : "Bien que nous ayons fait des efforts pour que le modèle refuse les demandes inappropriées, il répondra parfois à des instructions nuisibles ou présentera un comportement biaisé".

Le destin de ChatGPT

Mais ChatGPT est encore un prototype et est en phase de test. La société a averti les personnes qui l'utilisent qu'elle peut parfois générer des informations incorrectes. Il y a beaucoup de mises à jour et de raffinements à apporter au programme.

Le filigranage du contenu par le biais de signatures cryptographiques est une solution potentielle pour éliminer la crainte que ChatGPT ne menace le système éducatif.

ChatGPT est là pour rester, mais OpenAI ne contrôle pas le sort du programme qu'il a créé. Cela ne peut pas empêcher les gens de diffuser de fausses informations ou d'utiliser le programme à mauvais escient. Cela peut renforcer les freins et contrepoids, mais dans quelle mesure ces renforcements réussiront-ils ?

Tout comme vous conseillez aux autres de ne pas croire tout ce que vous lisez en ligne, ChatGPT ne fait pas exception. Il est livré avec des défauts et des inexactitudes et les identifier et savoir quand faire confiance au programme et quand ne pas dépendre de l'utilisateur.