AIはサイバー空間で失敗している

2022年10月に私はこれまでのキャリアの中で最も恥ずかしい記事を発表しましたが、2年経った今、私は自分が正しかったかもしれないと思い始めています。

2022 年の BlackHat の巨大なベンダー ホールを歩いていると、すべてのブースで AI に関する大胆な主張が見られました。「 AI を活用した分析」、「AI とリアルタイム検出の組み合わせ」 、またはその他のスローガンです。営業チームに AI が具体的に何をしたのか尋ねると、AI の専門用語が次々と出てくるか、南極の地下金庫室にいる秘密の研究チームについての主張が返ってくるかのどちらかです。

それに続いて、私は自信を持って、AI は単なるマーケティングのナンセンスだと主張する記事を公開しました...「BlackHat 2022、私よりも A だ」。数か月が経ち、ChatGPT がリリースされました。突然、AI が現実のものとなり、突然、私の素晴らしい記事は冗談であり、明らかに間違っていたのです。

しかし、今年 BlackHat 2024 のベンダーホールを散策した後、私の考えはそれほど間違っていなかったのかもしれない。

AI が実際に存在し、状況を大きく変える可能性を秘めていることは否定できません。そして、多くの点で、すでに AI は変化しています。2 年前には信じられませんでした。しかし、BlackHat 2024 のためにマンダレイ ベイの広大なホールを歩いていると、今でも同じスローガンが目に入ります。そして、大胆な主張に少しでも合致する、セキュリティにおける AI の有意義な実装を私はまだ見つけていません。

「[BlackHatで]気づいたことの一つは、人々がAIに飽きていたということだ」

アシシュ・ラジャンAI サイバーセキュリティ ポッドキャスト

AI がセキュリティの分野で効果を発揮できなかったのはなぜでしょうか?

皆さんの反論を先取りして説明すると、セキュリティベンダーが自社製品に AI を使用していることは承知しています。しかし、これまでのところ、画期的な成果を指摘できるものはなく、その多くは AI の実装方法にかかっています。

ChatGPT とそれに続く AI モデルのリリースに続いて、多くのベンダーが急いでこれらの新しいツールを自社のプラットフォームに追加しました。実装方法として最も多かったのは、「AI を活用した修復ガイドライン」と「アラートに関する追加コンテキスト」でした。

しかし、その背後にある現実は、その実装は主にユーザーではなくベンダーに役立つということです。これは単に、ベンダーがドキュメント作成にそれほど多くの時間を費やす必要がないことを意味します。それだけでなく、ほとんどの商用 AI モデルでは、コンテキスト情報は常に少なくとも 2 年以上古くなっています。

現実には、こうした実装の多くは、ベンダーが「AI」搭載製品に込めた約束を果たすための単なる手段に過ぎませんでした。

セキュリティにおけるAIの能力を制限するもう1つの問題は、特定のセキュリティデータでAIモデルをトレーニングできるかどうかです。ChatGPTのようなモデルは、AIモデルが何ができるかを示すのに最適ですが、特定のユースケースでは信頼できるとは言えません。Dean De BeerがAI + A16z ポッドキャスト「ChatGPT は素晴らしいハンマーですが、製品化して大規模なタスクを実行する場合には絶対にお勧めしません」 。セキュリティに重点を置いたモデルをトレーニングするには、現時点では並外れた計算能力が必要であり、たとえ (これは大きな仮定ですが) 小規模な企業がこれを実行するために十分な GPU を購入できたとしても、コストは天文学的な額になります。

「AIが製品側の機能以上のものになる瞬間はまだ来ていない」

カレブ・シマAI サイバーセキュリティ ポッドキャスト

つまり、一般的なデータを一般的な AI トレーニング済みモデルに送信する以上の AI 機能を実装できるのは、ほんの一握りの大手企業だけです。現在、AI は大部分のセキュリティ ツールの副次的な機能にとどまっており、ほとんどマーケティング チームが世に送り出す仕掛けのようなものになっています。

AIを正しく活用するにはどうすればいいでしょうか?

私は懐疑的ですが、AI の興味深い実装がいくつかあることは認めます。パープルAI SentinelOne が AI セキュリティ アナリストとして販売しているこのツールは、実際に動作する様子 (少なくともデモでは) を見ると確かに印象的です。

では、特にF1チームほどの予算がない場合、AIをどのように活用できるのでしょうか?

1. 人間に力を与え、人間に取って代わろうとしない

   単純な真実は、現時点では、AI が人間に取って代わるなどとは考えておらず、またそうすべきでもないということです。信頼できないと、AI は常に遅れをとり、その能力には限界があります。AI は人間を支援する強力なツールです。

2. AI が現在得意としている分類に焦点を当てます。

   AI の本来の強みは分類でした。脆弱性に関する多くのコンテキストを AI に入力することで、脆弱性を分類して優先順位を付けるモデルを作成できます。

3. 正しいモデルを使用するようにしてください

   AI の優先順位が上がるほど、同様に特化されたモデルが必要になります。これらのモデルを自分たちでトレーニングすることは、ほとんどの人にとっては不可能かもしれません。しかし、標準的なハンマーよりも優れた性能を発揮するモデルはたくさんあります。

セキュリティにおいて「A」が「I」になる日は来るのでしょうか?

インテリジェンスは大胆で、かなり曖昧な言葉です。AI は日々私たちの日常生活に深く浸透しており、セキュリティ ツールには AI にとって大きな可能性があります。AI の効果的で革新的な実装がセキュリティ ツールで確実に利用できるようになることは間違いありません。しかし、まだそこまでには至っていません。

セキュリティベンダーは長年 AI の能力を拡張してきましたが、ChatGPT が救いの手を差し伸べたとき、ベンダーはツールをスローガンに合わせて調整しようとしました。現実には、効果的な実装は当初想像していたものとは異なるでしょう。AI はスローガンがツールと一致したときに効果を発揮し、その逆ではありません。