Les grands modèles de langage (LLM) tels que   sont rapidement devenus l'une des avancées technologiques les plus importantes dans le domaine du traitement du langage naturel (TAL). GPT-3  Les LLM ont démontré un potentiel important pour aider dans une variété de tâches, y compris la traduction linguistique, la synthèse de texte, la réponse aux questions, la recherche d'informations, le moteur de recommandation, la robotique basée sur la langue et bien d'autres.   Alors que les grands modèles de langage (LLM) comme ChatGPT ont montré des performances exceptionnelles dans diverses tâches de traitement du langage naturel, leur utilisation abusive potentielle soulève   qui   . Avec la capacité de générer un texte cohérent et contextuellement pertinent, les LLM pourraient être utilisés pour produire de fausses nouvelles ou diffuser de la désinformation, ce qui pourrait avoir de graves conséquences sur la société. des problèmes éthiques doivent être résolus  Une telle utilisation abusive pourrait conduire à l'érosion de la confiance dans les médias d'information et à une perception déformée de la réalité. De plus, les LLM pourraient être utilisées pour le plagiat, le vol de propriété intellectuelle ou les fausses générations de critiques de produits, ce qui pourrait induire les consommateurs en erreur et avoir un impact négatif sur les entreprises. De plus, la capacité des LLM à manipuler le contenu Web à des fins malveillantes, telles que la création de faux comptes sur les réseaux sociaux ou l'influence sur les discussions en ligne, pourrait avoir des effets désastreux sur l'opinion publique et le discours politique.  Avec l'inquiétude croissante, il est probablement temps de se poser la question :    les textes générés par l'IA de ceux générés par l'homme ? Pouvons-nous distinguer   Recherches antérieures et détectabilité  D'une part, DetectGPT de Stanford compare la probabilité qu'un modèle attribue au texte écrit à celle d'une modification du texte, à détecter.   D'autre part, des approches basées sur les filigranes développées par le groupe de Tom Goldstein sont proposées pour augmenter efficacement la détectabilité.   Cependant, les filigranes (qui ne sont pas formés de manière robuste) se sont révélés vulnérables aux attaques de paraphrase et d'usurpation d'identité, par Sadasivan et coll. et Krishna et al.      Dernier débat dans la communauté  La communauté a récemment eu un débat houleux sur la question de savoir si les textes générés par l'IA peuvent être distingués de ceux générés par l'homme, ainsi que des discussions sur la question de savoir si   et à avoir une apocalypse AGI puisque nous ne pouvons pas détecter l'IA- contenu généré. Les responsables techniques ont même appelé à une suspension de 6 mois de la formation sur les grands modèles linguistiques (LLM). nous ne parviendrons pas à "conserver l'IA"  Des responsables académiques tels que Yann Lecun et Andrew Ng sont contre cette interdiction de l'IA.  VP et Chief AI Scientist chez Meta,   cite, Yann LeCun  « Pourquoi ralentir le progrès des connaissances ?   Possibilité de détection  Au milieu de cette période critique, nous étudions la détectabilité des textes générés par l'IA à travers une lentille de théorie de l'information. Nous apportons des preuves d'optimisme : il devrait presque toujours être possible de détecter à moins que les distributions de texte humain et machine ne soient exactement les mêmes sur l'ensemble du support.   La détectabilité est possible  La détectabilité repose sur un compromis précis avec Chernoff Information et d'autres observations. Nous prouvons une limite supérieure atteignable d'AUROC (qui est comprise entre 0 et 1, plus haut signifie plus détectable) via un détecteur basé sur le rapport de vraisemblance utilisant plusieurs échantillons. À mesure que le nombre d'échantillons augmente, AUROC augmente de façon exponentielle jusqu'à 1.    Une lentille dirigée par l'information  Ces résultats théoriques d'information reposent sur une quantité clé appelée information de Chernoff, qui peut guider la conception des filigranes des LLM. Expérimentalement, nous avons vérifié que l'indétectabilité de la détection au niveau du mot devient détectable lorsqu'elle passe à la détection au niveau du paragraphe.    Résultats théoriques  Ces résultats théoriques d'information reposent sur une quantité clé appelée information de Chernoff, qui peut guider la conception des filigranes des LLM. Nous avons dérivé des limites de complexité d'échantillon pour guider la possibilité de détection de texte généré par l'IA.    Démonstrations empiriques  L'indétectabilité au niveau du mot devient détectable lors du passage à la détection au niveau du paragraphe sur plusieurs ensembles de données. À mesure que nous augmentons la longueur de la détection, la précision de détection de ZeroShot augmente considérablement.   En fin de compte, nous pensons que la bonne façon de lutter contre l'utilisation abusive des   est de les corriger plutôt que de les interdire. #LLM   Même en tant que jeune, cependant, je ne pouvais pas me résoudre à croire que si la connaissance présentait un danger, la solution était l'ignorance. Pour moi, il m'a toujours semblé que la solution devait être la sagesse. Vous n'avez pas refusé de regarder le danger, vous avez plutôt appris à le gérer en toute sécurité.  Isaac Asimov  Remarque : Il s'agit de la première étape et notre étude appelle à la poursuite des recherches pour développer des cadres et des lignes directrices qui encouragent l'innovation et garantissent une utilisation éthique de ces puissants outils.   Contributeurs invités :      , Ph.D. Étudiant diplômé à   ,   , chercheur scientifique, Université du Maryland, Sicheng Zhu, Bang An,   et Furong Huang étudient la détectabilité des textes générés par l'IA à travers une lentille de théorie de l'information. Toutes les opinions exprimées dans cet article sont strictement celles des auteurs. Souradip Chakraborty l'Université du Maryland Amrit Singh Bedi Dinesh Manocha  Cet article a été initialement publié par Souradip Chakraborty, Ph.D. Étudiant diplômé à l'Université du Maryland, Amrit Singh Bedi, chercheur scientifique, Université du Maryland, Sicheng Zhu, Bang An, Dinesh Manocha et Furong Huang sur  The Tech Panda.

This story contains new, firsthand information uncovered by the writer.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Cet audio est produit dans la langue originale de l'histoire !

Pouvons-nous vraiment détecter le texte généré par l'IA à partir de ChatGPT et d'autres LLM ?

About Author

COMMENTAIRES

ÉTIQUETTES

CET ARTICLE A ÉTÉ PARU DANS

Related Stories

Appuyez pour gagner : Telegram pourrait intégrer les 10 prochains milliards d'utilisateurs de crypto avant Solana

Naviguer sur les eaux : développer des applications RAG de qualité production avec des lacs de données

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

Boostez votre productivité avec ces 18 outils de développement 🚀🔥

Appuyez pour gagner : Telegram pourrait intégrer les 10 prochains milliards d'utilisateurs de crypto avant Solana

Naviguer sur les eaux : développer des applications RAG de qualité production avec des lacs de données

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

Boostez votre productivité avec ces 18 outils de développement 🚀🔥

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps