OpenAI a créé un outil de détection d’IA, alors pourquoi ne le publie-t-il pas ?

OpenAI est devenu du jour au lendemain un nom familier, du moins dans les cercles technologiques, en lançant ChatGPT en novembre 2022. Les entreprises et les particuliers ont rapidement adopté ses outils et ont commencé à les utiliser pour automatiser les tâches quotidiennes.

L’un des problèmes des textes et images générés par l’IA est qu’ils peuvent refléter des œuvres existantes. Certains accusent le logiciel de plagiat, tandis que d’autres estiment qu’il n’est pas aussi détaillé que les œuvres créées par l’homme. Partout, les employeurs souhaitent de meilleurs moyens de détecter l’utilisation de l’IA pour répondre aux besoins des publics cibles et savoir quel est le meilleur moment pour utiliser cette technologie.

Open AI a réagi en créant un outil de détection d'IA, mais ne l'a pas encore publié. Beaucoup veulent connaître la raison de ce retard et s'il sera un jour mis à la disposition du public.

Pourquoi OpenAI hésite-t-il à publier son outil ?

TechCrunch a publié un article expliquant l'outil de détection d'OpenAI, qui est censé attraper les étudiants qui trichent en faisant rédiger leurs devoirs par le programme informatique. L'entreprise l'a gardé secret plutôt que de le publier, ce qui fait se demander pourquoi. Un représentant d'OpenAI a déclaré que l'entreprise envisageait de le faire. impacts plus larges de l'outil et en prenant son temps.

De nombreux autres outils de détection se sont révélés inefficaces, créant parfois de faux positifs et ne parvenant pas à détecter le texte généré par l'IA à d'autres moments. Le produit d'OpenAI se concentrerait principalement sur la détection de texte filigrané par ChatGPT. L'une des raisons pour lesquelles il n'est pas publié est la crainte qu'il puisse avoir un impact négatif sur les locuteurs non natifs de l'anglais. L'outil oblige également ChatGPT à modifier son fonctionnement lors de l'ajout des mots filigranés.

Utilisations élargies de l’outil

Bien que le logiciel de détection soit destiné à attraper les étudiants qui utilisent l’IA pour rédiger des articles, il pourrait être appliqué à de nombreuses autres situations, notamment dans la lutte contre la fraude à plus grande échelle.

Par exemple, pensez à l'utilité d'un outil de détection d'IA pour détecter les textes générés par ordinateur utilisés par les cybercriminels. Rien qu'en 2023, les paiements de rançon doublé par rapport à l'année précédente à plus d'un milliard de dollars, et ce nombre devrait continuer à augmenter L’IA pourrait permettre aux consommateurs et aux entreprises de lutter contre les violations de données, et de repérer plus facilement les textes générés par ordinateur.

De nombreuses escroqueries utilisent un langage fluide destiné à toucher les cordes sensibles d'une personne ou à provoquer la peur. En cas de doute sur la légitimité d'un message, les internautes peuvent le faire passer dans l'outil de détection pour voir si l'IA a été utilisée pour le générer. Cela peut s'avérer très utile, car de nombreuses escroqueries impliquent du texte rédigé par un robot.

Arguments contre l’utilisation des outils de détection

Jusqu'à présent, les outils de détection de l'IA n'ont pas été très précis. Ils ont signalé à tort des contenus originaux comme étant générés par l'IA, obligeant les étudiants à se battre pour leurs notes et parfois pour leur carrière universitaire. Les universités et les employeurs prennent le plagiat au sérieux, de sorte qu'une fausse accusation pourrait détruire l'avenir ou les moyens de subsistance d'une personne.

Les outils peuvent également être inefficaces lorsque les utilisateurs peuvent connectez-vous à un logiciel simple d'utilisation et polyvalent Cela leur permet de contourner la détection de l’IA, comme HumanizeAI et RealWriter. Les gens devraient apprendre à utiliser l’IA de manière à pouvoir réfléchir et générer de nouvelles idées sans plagier les informations. Cependant, ils peuvent hésiter à utiliser tout type de logiciel de peur d’être repérés par un détecteur.

Les opposants au logiciel craignent qu'il ne pousse les gens à être moins créatifs par crainte de déclencher un détecteur. Des programmes comme StealthAI réécrire le texte généré par l'IA pour paraître plus humain. Ils disent également que les gens se détourneront des outils couramment utilisés comme ChatGPT et en rechercheront d'autres sans les mêmes filigranes, rendant ainsi l'outil de détection inutile.

Les gens expriment également des inquiétudes concernant les mauvais joueurs qui utilisent l'outil pour rétroconcevoir le code et créer quelque chose qui utiliser l'IA pour créer des vidéos deep fake ou des attaques DDoS. Les cybercriminels sont déjà très rusés. Personne ne veut leur donner davantage de moyens de tromper les gens pour qu'ils partagent leurs données personnelles.

Avantages d’un outil de détection d’IA

Les arguments contre les outils de détection d’IA pourraient bientôt être discutables. Si certains craignent que les locuteurs non natifs de l’anglais soient laissés pour compte, les développeurs de logiciels vont probablement résoudre les problèmes de barrière linguistique au fil du temps.

Beaucoup pensent qu'OpenAI va bientôt publier son outil. Les rapports indiquent ce débat interne a eu lieu Depuis près de deux ans, les débats portent sur l’utilité du logiciel et sur les préoccupations liées à son inclusion. Certains voient les avantages que présente l’utilisation d’outils de détection d’IA par les universités et les employeurs.

À mesure que le développement des détecteurs d’IA se développe, attendez-vous à les voir utilisés pour des choses telles que :

• Identifier les fausses vidéos utilisées dans les campagnes politiques

• Trouver des informations erronées et les marquer plus précisément que les autres robots

• Générer du contenu éthique

  
  

La sortie de cet outil pourrait inciter d’autres marques à créer leurs propres programmes et à augmenter le taux de réussite de la détection par l’IA.

L’avenir de l’utilisation de l’IA

Que vous l'aimiez ou non, l'IA est là pour rester, même si les entreprises ont été un peu plus lentes à l'adopter que prévu. Le MIT a publié un rapport montrant que la technologie est en train d'être adopté à des rythmes différents en fonction des secteurs. Par exemple, la plupart des entreprises ayant adopté l’IA se trouvaient dans les secteurs de la fabrication et de la santé.

À mesure que les services marketing en apprennent davantage sur le fonctionnement de l’IA et sur les moyens de la mettre en œuvre, on peut s’attendre à ce que davantage de marques l’utilisent et recherchent des outils de détection pour éviter les problèmes de confidentialité et la copie.

Ceux qui utilisent l’IA depuis un certain temps commencent à remarquer des schémas qui peuvent être détectés sans l’aide d’un logiciel. Par exemple, l’introduction de presque tous les articles utilise un langage similaire. La mise en page, le rythme et les détails sont les mêmes. Avec un peu de pratique, la plupart des gens peuvent repérer assez précisément un article généré par l’IA.

Pourquoi les gens ont besoin de cet outil maintenant

Sans moyen de détecter avec précision le contenu généré par l'IA, les gens peuvent se méfier de ce qu'ils lisent en ligne. Dans d'autres situations, ils peuvent soupçonner quelqu'un d'avoir utilisé l'IA sans le révéler, mais il leur est impossible de le prouver. Les travailleurs peuvent être accusés à tort ou perdre leur emploi et leur diplôme alors qu'ils ne sont pas coupables.

L'outil résoudra le problème des étudiants qui font très peu de travail et qui sont médiocres dans leurs études, mais qui obtiennent néanmoins un diplôme avancé grâce au travail acharné, à la sueur et aux larmes de quelqu'un d'autre.

Le produit d'OpenAI aura probablement le plus d'impact dans le secteur de l'éducation. Cependant, les entreprises peuvent également l'utiliser pour s'assurer de produire un contenu unique et très ciblé que les clients souhaitent lire.

Un problème complexe

La décision d'OpenAI de conserver son outil de détection est motivée par sa volonté de faire ce qu'il y a de mieux à mesure que la technologie de l'IA se développe et que des problèmes éthiques surgissent. OpenAI publiera probablement le logiciel à un moment donné, au grand soulagement des enseignants du monde entier. Il reste à voir comment d'autres industries pourraient l'utiliser.

Toutes les entreprises qui développent des programmes d’IA doivent peser le pour et le contre de chaque fonctionnalité qu’elles introduisent. C’est seulement à ce moment-là que l’IA deviendra un outil indispensable pour stimuler le progrès.