OpenAI は AI 検出ツールを作成したのに、なぜ公開しないのか?

OpenAIは、2022年11月にChatGPTをリリースしたことで、少なくともテクノロジー界では一夜にして有名になりました。企業や個人はすぐにそのツールを採用し、日常業務の自動化に使い始めました。

AI が生成したテキストや画像の問題の 1 つは、既存の作品を模倣できることです。このソフトウェアを盗作だと非難する人もいれば、人間が作成した作品ほど詳細ではないと感じる人もいます。世界中の雇用主は、ターゲット ユーザーのニーズを満たし、テクノロジーを活用する最適なタイミングを知るために、AI の使用を検出するより優れた方法を求めています。

Open AI は AI 検出ツールを作成することで対応しましたが、まだ公開していません。多くの人が、なぜ遅延しているのか、また、いつになったら一般に公開されるのかを知りたいと思っています。

OpenAI がツールのリリースを躊躇しているのはなぜですか?

TechCrunchは、OpenAIの検出ツールについて説明した記事を掲載した。これは、コンピュータープログラムにレポートを書かせて不正行為をする学生を捕まえるためのものだ。同社はこのツールを公開せずに放置しており、その理由を疑問視する声もある。OpenAIの代表者は、同社はこのツールの公開を検討していると述べた。 ツールのより広範な影響そして時間をかけて。

他の多くの検出ツールは効果がなく、時には誤検知を起こしたり、AI 生成テキストを検出できなかったりする。OpenAI の製品は主に ChatGPT によって透かしが入ったテキストの検出に焦点を当てている。リリースしない理由の 1 つは、英語を母国語としない人に悪影響を与える恐れがあるからだ。このツールは、透かしが入った単語を追加する際の ChatGPT の動作方法の変更も強いる。

ツールの幅広い用途

この検出ソフトウェアは、AIを使って論文を書く学生を捕まえるためのものだが、特に大規模な不正行為の撲滅など、他の多くの状況にも応用できる可能性がある。

例えば、サイバー犯罪者が使用するコンピューター生成テキストを検知するのにAI検出ツールがどれほど役立つか考えてみましょう。2023年だけでも、ランサムウェアの支払いは前年比2倍10億ドル以上になり、この数字は今後も上昇が続くと予想されるAI の普及により劇的に変化しています。消費者や企業がデータ侵害と戦う中、AI によってコンピューターで生成されたテキストの検出が容易になる可能性があります。

多くの詐欺には、人の感情を揺さぶったり、恐怖を抱かせたりすることを目的とした流暢な言葉が含まれています。メッセージが本物かどうかわからない場合は、テキストを検出ツールに通して、AI によって生成されたかどうかを確認することができます。多くの詐欺にはロボットが書いたテキストが含まれているため、これは非常に有益です。

検出ツールの使用に反対する意見

これまでのところ、AI 検出ツールはあまり正確ではない。オリジナル コンテンツが AI 生成であると誤ってフラグ付けされ、学生が成績や場合によっては学業のキャリアのために戦わなければならない事態を引き起こしている。大学や雇用主は盗作を深刻に受け止めているため、誤った告発は誰かの将来や生計を破壊する可能性がある。

ユーザーが使いやすく多機能なソフトウェアにプラグインHumanizeAI や RealWriter など、AI 検出を回避するのに役立つツールがあります。情報を盗用することなく、ブレインストーミングを行い、新しいアイデアを生み出すことができるような方法で AI を活用することを学ぶ必要があります。しかし、検出器によってフラグが立てられることを恐れて、あらゆる種類のソフトウェアの使用を躊躇する人もいるかもしれません。

このソフトウェアに反対する人々は、検知器を作動させることを恐れて人々の創造性を低下させるのではないかと懸念している。StealthAIのようなプログラムはAI生成テキストを書き換えるより人間らしく聞こえるようにするためです。また、人々は ChatGPT のような一般的に使用されているツールから離れ、同じ透かしのないツールを探すようになるため、検出ツールは事実上役に立たなくなるとも述べています。

また、悪質なプレイヤーがこのツールを使ってコードをリバースエンジニアリングし、 AIを活用してディープフェイク動画を作成するまたは DDoS 攻撃。サイバー犯罪者はすでに巧妙です。誰も、人々を騙して個人データを共有させるさらなる方法を彼らに与えたくありません。

AI検出ツールの利点

AI 検出ツールに対する反対論は、すぐに議論の余地がなくなるかもしれない。英語を母国語としない人々が取り残されるのではないかと懸念する声もあるが、ソフトウェア開発者は時間の経過とともに言語の壁の問題を解決するだろう。

OpenAIが間もなくツールをリリースすると多くの人が考えている。報道によると 内部での議論が続いているソフトウェアの有用性と包括性に関する懸念について、ほぼ2年間議論が続いています。大学や雇用主がAI検出ツールを使用することでメリットが得られると考える人もいます。

AI 検出器の開発が進むにつれて、次のような用途で使用されるようになると予想されます。

• 政治キャンペーンで使用された偽のビデオを特定する

• 他のボットよりも正確に誤情報を見つけてマークする

• 倫理的なコンテンツの作成

  
  

このツールを公開することで、他のブランドが独自のプログラムを作成し、AI 検出の成功率を高めるきっかけとなる可能性があります。

AI活用の未来

好き嫌いは別として、AIは今後も存在し続けるだろう。ただし、企業によるAI導入は当初の予想より少し遅れている。MITは、AI技術が異なる割合で採用された業種別に見ると、AI を導入している企業のほとんどは製造業と医療業界です。

マーケティング部門が AI の仕組みや実装方法について理解を深めるにつれて、より多くのブランドが AI を活用し、プライバシーの問題やコピーを防ぐための検出ツールを求めるようになると予想されます。

AI をしばらく使用していると、ソフトウェアの助けを借りずに検出できるパターンに気づき始めます。たとえば、ほぼすべての記事の冒頭には似たような言葉が使われています。レイアウト、ペース、詳細も同じです。少し練習すれば、ほとんどの人が AI が生成した記事をかなり正確に見分けることができます。

なぜ今このツールが必要なのか

AI が生成したコンテンツを正確に検出する方法がなければ、人々はオンラインで読んだ内容を信用しなくなるかもしれません。また、誰かが AI を使用したと明かさずに疑っても、証明できない場合もあります。労働者は、無実であるにもかかわらず、誤って告発されたり、仕事や学位を失ったりする可能性があります。

このツールは、学生がほとんど勉強をせず、勉強の成果も出ないのに、他人の努力と汗と涙のおかげで高度な学位を取得してしまうという問題を解決します。

OpenAI の製品は、教育分野に最も大きな影響を与えると思われます。しかし、企業もこれを利用して、顧客が読みたいと思う、独自性があり、ターゲットを絞ったコンテンツを確実に作成することができます。

複雑な問題

OpenAI が検出ツールを保留にするという決定は、AI 技術が発展し、倫理的な懸念が生じる中で最善を尽くしたいという思いに根ざしている。同社はおそらく、世界中の教育者を安心させるために、いつかソフトウェアをリリースするだろう。他の業界がこれをどのように使用するかはまだ分からない。\

AI プログラムを開発するすべての企業は、導入する各機能の長所と短所のバランスを取る必要があります。そうして初めて、AI は進歩を促進する不可欠なツールとなるでしょう。