OpenAI est devenu du jour au lendemain un nom familier, du moins dans les cercles technologiques, en lançant ChatGPT en novembre 2022. Les entreprises et les particuliers ont rapidement adopté ses outils et ont commencé à les utiliser pour automatiser les tâches quotidiennes.  L’un des problèmes des textes et images générés par l’IA est qu’ils peuvent refléter des œuvres existantes. Certains accusent le logiciel de plagiat, tandis que d’autres estiment qu’il n’est pas aussi détaillé que les œuvres créées par l’homme. Partout, les employeurs souhaitent de meilleurs moyens de détecter l’utilisation de l’IA pour répondre aux besoins des publics cibles et savoir quel est le meilleur moment pour utiliser cette technologie.  Open AI a réagi en créant un outil de détection d'IA, mais ne l'a pas encore publié. Beaucoup veulent connaître la raison de ce retard et s'il sera un jour mis à la disposition du public.  Pourquoi OpenAI hésite-t-il à publier son outil ?  TechCrunch a publié un article expliquant l'outil de détection d'OpenAI, qui est censé attraper les étudiants qui trichent en faisant rédiger leurs devoirs par le programme informatique. L'entreprise l'a gardé secret plutôt que de le publier, ce qui fait se demander pourquoi. Un représentant d'OpenAI a déclaré que l'entreprise envisageait de le faire.  et en prenant son temps.   impacts plus larges de l'outil  De nombreux autres outils de détection se sont révélés inefficaces, créant parfois de faux positifs et ne parvenant pas à détecter le texte généré par l'IA à d'autres moments. Le produit d'OpenAI se concentrerait principalement sur la détection de texte filigrané par ChatGPT. L'une des raisons pour lesquelles il n'est pas publié est la crainte qu'il puisse avoir un impact négatif sur les locuteurs non natifs de l'anglais. L'outil oblige également ChatGPT à modifier son fonctionnement lors de l'ajout des mots filigranés.  Utilisations élargies de l’outil  Bien que le logiciel de détection soit destiné à attraper les étudiants qui utilisent l’IA pour rédiger des articles, il pourrait être appliqué à de nombreuses autres situations, notamment dans la lutte contre la fraude à plus grande échelle.  Par exemple, pensez à l'utilité d'un outil de détection d'IA pour détecter les textes générés par ordinateur utilisés par les cybercriminels. Rien qu'en 2023, les paiements de rançon  à plus d'un milliard de dollars, et ce nombre  L’IA pourrait permettre aux consommateurs et aux entreprises de lutter contre les violations de données, et de repérer plus facilement les textes générés par ordinateur.   doublé par rapport à l'année précédente   devrait continuer à augmenter  De nombreuses escroqueries utilisent un langage fluide destiné à toucher les cordes sensibles d'une personne ou à provoquer la peur. En cas de doute sur la légitimité d'un message, les internautes peuvent le faire passer dans l'outil de détection pour voir si l'IA a été utilisée pour le générer. Cela peut s'avérer très utile, car de nombreuses escroqueries impliquent du texte rédigé par un robot.  Arguments contre l’utilisation des outils de détection  Jusqu'à présent, les outils de détection de l'IA n'ont pas été très précis. Ils ont signalé à tort des contenus originaux comme étant générés par l'IA, obligeant les étudiants à se battre pour leurs notes et parfois pour leur carrière universitaire. Les universités et les employeurs prennent le plagiat au sérieux, de sorte qu'une fausse accusation pourrait détruire l'avenir ou les moyens de subsistance d'une personne.  Les outils peuvent également être inefficaces lorsque les utilisateurs peuvent  Cela leur permet de contourner la détection de l’IA, comme HumanizeAI et RealWriter. Les gens devraient apprendre à utiliser l’IA de manière à pouvoir réfléchir et générer de nouvelles idées sans plagier les informations. Cependant, ils peuvent hésiter à utiliser tout type de logiciel de peur d’être repérés par un détecteur.   connectez-vous à un logiciel simple d'utilisation et polyvalent  Les opposants au logiciel craignent qu'il ne pousse les gens à être moins créatifs par crainte de déclencher un détecteur. Des programmes comme StealthAI  pour paraître plus humain. Ils disent également que les gens se détourneront des outils couramment utilisés comme ChatGPT et en rechercheront d'autres sans les mêmes filigranes, rendant ainsi l'outil de détection inutile.   réécrire le texte généré par l'IA  Les gens expriment également des inquiétudes concernant les mauvais joueurs qui utilisent l'outil pour rétroconcevoir le code et créer quelque chose qui  ou des attaques DDoS. Les cybercriminels sont déjà très rusés. Personne ne veut leur donner davantage de moyens de tromper les gens pour qu'ils partagent leurs données personnelles.   utiliser l'IA pour créer des vidéos deep fake  Avantages d’un outil de détection d’IA  Les arguments contre les outils de détection d’IA pourraient bientôt être discutables. Si certains craignent que les locuteurs non natifs de l’anglais soient laissés pour compte, les développeurs de logiciels vont probablement résoudre les problèmes de barrière linguistique au fil du temps.  Beaucoup pensent qu'OpenAI va bientôt publier son outil. Les rapports indiquent  Depuis près de deux ans, les débats portent sur l’utilité du logiciel et sur les préoccupations liées à son inclusion. Certains voient les avantages que présente l’utilisation d’outils de détection d’IA par les universités et les employeurs.   ce débat interne a eu lieu  À mesure que le développement des détecteurs d’IA se développe, attendez-vous à les voir utilisés pour des choses telles que :  Identifier les fausses vidéos utilisées dans les campagnes politiques  Trouver des informations erronées et les marquer plus précisément que les autres robots  Générer du contenu éthique  La sortie de cet outil pourrait inciter d’autres marques à créer leurs propres programmes et à augmenter le taux de réussite de la détection par l’IA.  L’avenir de l’utilisation de l’IA  Que vous l'aimiez ou non, l'IA est là pour rester, même si les entreprises ont été un peu plus lentes à l'adopter que prévu. Le MIT a publié un rapport montrant que la technologie est en train d'être  en fonction des secteurs. Par exemple, la plupart des entreprises ayant adopté l’IA se trouvaient dans les secteurs de la fabrication et de la santé.   adopté à des rythmes différents  À mesure que les services marketing en apprennent davantage sur le fonctionnement de l’IA et sur les moyens de la mettre en œuvre, on peut s’attendre à ce que davantage de marques l’utilisent et recherchent des outils de détection pour éviter les problèmes de confidentialité et la copie.  Ceux qui utilisent l’IA depuis un certain temps commencent à remarquer des schémas qui peuvent être détectés sans l’aide d’un logiciel. Par exemple, l’introduction de presque tous les articles utilise un langage similaire. La mise en page, le rythme et les détails sont les mêmes. Avec un peu de pratique, la plupart des gens peuvent repérer assez précisément un article généré par l’IA.  Pourquoi les gens ont besoin de cet outil maintenant  Sans moyen de détecter avec précision le contenu généré par l'IA, les gens peuvent se méfier de ce qu'ils lisent en ligne. Dans d'autres situations, ils peuvent soupçonner quelqu'un d'avoir utilisé l'IA sans le révéler, mais il leur est impossible de le prouver. Les travailleurs peuvent être accusés à tort ou perdre leur emploi et leur diplôme alors qu'ils ne sont pas coupables.  L'outil résoudra le problème des étudiants qui font très peu de travail et qui sont médiocres dans leurs études, mais qui obtiennent néanmoins un diplôme avancé grâce au travail acharné, à la sueur et aux larmes de quelqu'un d'autre.  Le produit d'OpenAI aura probablement le plus d'impact dans le secteur de l'éducation. Cependant, les entreprises peuvent également l'utiliser pour s'assurer de produire un contenu unique et très ciblé que les clients souhaitent lire.  Un problème complexe  La décision d'OpenAI de conserver son outil de détection est motivée par sa volonté de faire ce qu'il y a de mieux à mesure que la technologie de l'IA se développe et que des problèmes éthiques surgissent. OpenAI publiera probablement le logiciel à un moment donné, au grand soulagement des enseignants du monde entier. Il reste à voir comment d'autres industries pourraient l'utiliser.  Toutes les entreprises qui développent des programmes d’IA doivent peser le pour et le contre de chaque fonctionnalité qu’elles introduisent. C’est seulement à ce moment-là que l’IA deviendra un outil indispensable pour stimuler le progrès.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Cet audio est produit dans la langue originale de l'histoire !

Trop long; Pour lire

Make resilience your competitive advantage

OpenAI a créé un outil de détection d’IA, alors pourquoi ne le publie-t-il pas ?

About Author

COMMENTAIRES

ÉTIQUETTES

CET ARTICLE A ÉTÉ PARU DANS

Related Stories

Libérer la puissance de l’IA. Une revue systématique des techniques de pointe : résumé et introduction

Le modèle Bitcoin UTXO, alimentant un écosystème unique

Naviguer sur les eaux : développer des applications RAG de qualité production avec des lacs de données

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

Libérer la puissance de l’IA. Une revue systématique des techniques de pointe : résumé et introduction

Le modèle Bitcoin UTXO, alimentant un écosystème unique

Naviguer sur les eaux : développer des applications RAG de qualité production avec des lacs de données

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps