Les chatbots se dégradent avec des réponses erronées

Alors que les chatbots continuent de se battre, ils se déchaînent avec des réponses erronées. Nul doute que l'évolution du chatbot est à nos portes. Mais qui a le meilleur ? Peut-être encore personne.

Les LLM et les chatbots dominent Internet depuis l'année dernière, avec Open AI soutenu par Microsoft en tête avec sa sortie de ChatGPT. ChatGPT a apparemment atteint 100 millions d'utilisateurs actifs par mois en janvier, deux mois seulement après son lancement, devenant ainsi l'application grand public à la croissance la plus rapide de l'histoire.

Lorsqu'un chatbot devient extrêmement humain en répondant aux requêtes, pourquoi sommes-nous surpris qu'il inclue des préjugés humains ? Après tout, la source d'un chatbot pour chaque réponse est les énormes bassins de données puantes accumulées par les humains

Le co-fondateur de Microsoft, Bill Gates, a déclaré au quotidien économique allemand Handelsblatt dans une interview que ChatGPT est aussi important que l'invention d'Internet. Récemment, Kevin Scott, le CTO de Microsoft a parlé d'un système expérimental qu'il s'est construit en utilisant GPT-3 conçu pour l'aider à écrire un livre de science-fiction.

Les grandes entreprises technologiques ainsi que les petites entreprises se précipitent pour posséder le meilleur chatbot. Cette obsession presque maniaque de posséder un chatbot qui sait tout balaie les industries et les zones géographiques.

Microsoft a réalisé des "investissements de plusieurs milliards de dollars" dans le fabricant de ChatGPT OpenAI, une relation qui a débuté en 2019 avec un investissement de 1 milliard de dollars. Ce sont les supercalculateurs de Microsoft qui alimentent les systèmes d'intelligence artificielle d'OpenAI. En février, Microsoft a déployé une offre de messagerie Teams premium adossée à ChatGPT dans le but de simplifier les réunions.

Où se terminera cette bataille ? Aurons-nous enfin le chatbot parfait ? Ou deviendront-ils de plus en plus méchants dans le terrain de jeu qu'est Internet ?

Alors que Google, Microsoft et maintenant Baidu y sont, ce n'est qu'une question de temps avant que d'autres ne rejoignent la course, en particulier ceux qui ont déjà construit de grandes capacités de modèle de langage. Cela inclut Amazon, Huawei, AI21 Labs et LG Artificial Intelligence Research, NVIDIA et autres.

Google a publié Bard aux conséquences désastreuses . La société technologique chinoise Baidu a annoncé Ernie Bot, construit sur le grand modèle de langage ERNIE 3.0, d'ici mars de cette année.

Ancien éthicien en intelligence artificielle chez Google, Alex Hanna qualifie ces chatbots de « générateurs de conneries ». "La grande technologie se concentre actuellement trop sur les modèles de langage car la sortie de cette technologie s'est avérée impressionnante pour la classe des bailleurs de fonds - les VC - et il y a beaucoup d'argent dedans", a-t-elle déclaré à Analytics India Magazine.

Mais où finira cette bataille ? Aurons-nous enfin le chatbot parfait ? Ou deviendront-ils de plus en plus méchants dans le terrain de jeu qu'est Internet ?

Bad bots ou mauvaises requêtes ?

Après tout, tout ne va pas bien avec ces chatbots. Ils proposent des réponses étranges, certaines causant des pertes monétaires. Alphabet, la société mère de Google, a perdu 100 milliards de dollars de valeur marchande après que son chatbot Bard a partagé des informations erronées dans une vidéo promotionnelle. Les craintes abondent que le géant de la technologie perde face à son rival Microsoft.

Pendant ce temps, Bard de Microsoft n'a pas bien réussi non plus. Kevin Liu, étudiant en informatique à Stanford, a piraté Bing Chat. Avec la bonne invite, le chatbot a vidé ses tripes.

Maintenant, Baidu a rejoint la course avec son Ernie Bot . Bien que sa simple mention ait fait monter en flèche les actions de Baidu, il reste à voir dans quelle mesure il fonctionnera.

Lorsque vous le demandez, un chatbot répondra également

Un utilisateur a demandé à ChatGPT d' écrire les paroles : "Si vous voyez une femme en blouse de laboratoire, elle est probablement juste là pour nettoyer le sol / Mais si vous voyez un homme en blouse de laboratoire, alors il a probablement les connaissances et les compétences dont vous avez besoin". je cherche.

Steven T. Piantadosi, responsable du laboratoire de calcul et de langage à l'Université de Californie à Berkeley, a demandé au bot d'écrire du code pour dire que seuls les hommes blancs ou asiatiques feraient de bons scientifiques .

Depuis lors, OpenAI a mis à jour ChatGPT pour répondre : "Il n'est pas approprié d'utiliser la race ou le sexe d'une personne pour déterminer si elle serait un bon scientifique."

La startup a récemment déclaré qu'elle proposait une mise à jour personnalisable pour répondre aux préoccupations concernant les biais dans l'intelligence artificielle. La startup affirme que tout en s'efforçant d'atténuer les préjugés, elle cherche également à être inclusive avec des points de vue divers.

Donc, les choses s'améliorent. Mais le fait demeure que lorsqu'un chatbot devient extrêmement humain en répondant aux requêtes, pourquoi sommes-nous surpris qu'il inclue des préjugés humains ? Après tout, la source d'un chatbot pour chaque réponse est constituée par les immenses bassins de données puantes accumulées par les humains.

The Verge appelle cela "le gros problème primordial, celui qui pollue potentiellement chaque interaction avec les moteurs de recherche IA, que ce soit Bing, Bard ou un parvenu encore inconnu". "La technologie qui sous-tend ces systèmes - les grands modèles de langage, ou LLM - est connue pour générer des conneries", déclare le site Web d'actualités technologiques.

ChatGPT, Bard et Bing Chat proposent des réponses étranges, mais la responsabilité repose sur nos invites. À votre demande, un chatbot répondra également.

Cet article a été initialement publié par Navanwita Sachdev sur TheTechPanda .