戦争がフェイクニュースと戦う AI にどのようにつながったか

戦争は、人生を台無しにし、何世代にもわたって癒されない傷を残す最悪の人間の発明です.過去のミレニアムの戦争は、宣言された方法で少なくともいくらかの正直さがあり、誰が誰に反対したかは明らかでした.しかし、現代の戦争は違います。情報戦争は、ウクライナとロシアの間で進行中の戦争の大きな部分を占めており、世論を操作する多くのフェイク ニュースが含まれています。ロシア政府は、西側の視聴者を対象とするテレビ チャンネルのネットワーク全体を展開しており、現在、ウクライナに関する世界の意見を変え、虚偽の主張をし、ロシアが人々を殺しているのではなく「彼らを救っている」と説得するために、それらを大いに利用しています。 "

それが私にとって重要な理由

戦争は私に個人的に影響を与えました。私は共同創設者です第一橋- 100 人以上のウクライナ人労働者を擁するウクライナの IT R&D 企業。戦争は私たちの国に死と大量破壊をもたらしましたが、私たちは社会として、企業としてあきらめませんでした。私たちはチームと国をサポートするために働き続けました。

戦線で戦争が展開するにつれて、ロシアのプロパガンダがソビエト後の国々にどのように影響を与えているかを目の当たりにし、多くのウクライナ人や他のジャーナリストがこれらの郡でロシアの偽物と戦い始めました.しかし、あまり目にすることのないプロパガンダのことを忘れがちです。西洋英語圏でのロシアのプロパガンダです。これは、西側諸国の政治的決定に影響を与えるより多くの人々を対象としているため、非常に重要です。その時、私たちは偽のニュースと戦うために何かをしなければならないと決めました.

偽物と戦うために AI を使用することを決定した方法

私たちのパートナーである BrandVision の社内開発プロジェクトの 1 つは、偽のニュースと戦うための新しいツールに組み込むことができる適切なテクノロジを備えた最良の候補でした。これは、ブランドがターゲット ユーザーからのフィードバックを効果的に受け取り、やり取りできるようにするプロジェクトです。 YouTube のビデオ、オーディオ、テキスト コンテンツの分析にニューラル ネットワークを使用し、オーディオ/テキスト コンテンツのセマンティック分析と組み合わせます。 MVP の途中にある初期段階のスタートアップでした。

市場の需要に適した製品を迅速に作成する方法を見つけたかったのです。同時に、分析技術が重要な役割を果たす情報戦争があることも理解しました。西洋志向の英語情報資源と戦う活動にギャップがあることを見て、私たちはこの問題を解決するために私たちの技術の要素の1つを選択しました.

完璧なピボット

そこで私たちはピボットを行い、Brand Vision を Fake Vision に変えました。これは、トレーニング可能なニューラル ネットワークを使用してニュースの客観性をチェックすることで、西英語メディアの軍事プロパガンダと戦うためのオンライン ツールです。これにより、6 か月ではなく 2 か月で実際の製品を構築することができ、国を支援する機会が得られました。そして、おまけとして、状況により、ユーザー獲得が加速する可能性があり、それは私たちを助け、国を助けます.

BrandVision プロジェクトの根底にあるさまざまなニューラル ネットワークを使用することで、オーディオ、テキスト、ビデオ コンテンツ、および感情的な反応を操作する機能が実現されます。この包括的な専門知識は、ウクライナ侵攻の結果として形成された非営利イニシアチブである Fake Vision プロジェクトの基礎となりました。このプロジェクトの主な目的は、英語を話すユーザーがウクライナのイベントに関連するニュースを評価し、イベントの客観的なビジョンを形成し、一般的なプロパガンダに取り組むためのシンプルなツールを作成することです。

フェイクビジョン

Fake Vision は、ユーザーがテキスト情報を真実と嘘の観点から分析できるようにする製品です。最終スコアを 0 ～ 100% のパーセンテージで割り当てます。0 は偽、100% は真です。ニュース サイトは、神経分析をさらに実施するためのデータ収集への個別のアプローチが構築された情報源になる可能性があります。

ニュース記事の分析は、記事のタイトルと本文の 2 つの部分で構成されます。別のニューラル ネットワークが見出しを分析し、記事の主要部分がより正確な評価のために段落に分割されるため、ユーザーはコンテンツのどの部分が操作的であるかを確認できます。現在の Fake Vision 機能は、記事ごとの分析に基づいています。つまり、ユーザーの要求ごとに 1 つの記事を分析できます。プロジェクトの枠組みの中で、ユーザーがニュースの客観性を評価できるニューラル ネットワークの継続的なトレーニングのメカニズムが構築されており、AI トレーニングの各ラウンドでそれを考慮に入れています。

Fake Vision の主な分類器として、双方向長短期記憶 (bi-LSTM) タイプのリカレント ニューラル ネットワークが選択されました。これらのニューラル ネットワークは、テキスト分類器を構築するように設計されています。 LSTM ネットワークの概要を図 1 に示します。

分類プロセスの重要なステップは、分類器のトレーニングです。分類器は、行列とそのラベルで構成されるデータベースでトレーニングされます。ラベルには、この行列が偽のデータに属しているか真のデータに属しているかに関する情報が含まれています。タグはデータベースから読み込まれ、データベース内のすべての記事は、それらが真であるかどうかにかかわらず既にマークされています。分類子は、教師あり学習法に従ってトレーニングされます。これは、構築のすべての段階でモデルをトレーニングするためのラベル付きデータの完全なセットが存在することを意味します。

この図は、ニューラル ネットワークのトレーニングの一般的な原則を示しています。記事はニューラルネットワークに供給され、ニューラルネットワークyの出力が計算され、最初に与えられた「真実」- zと比較され、その結果、ネットワークエラーが計算され、ネットワーク自体のパラメーターが調整されますこのエラーに応じて (図 2 を参照)、重み係数の形式で表されます。

ニューラル ネットワークの出力で、データはシグモイド活性化関数に従って分類されます。この関数の形式は図 3 に示されています。

現在の段階

現在、Fake Vision のニューラル ネットワークは調整中 (キング ソロモンのように賢くなるためのトレーニング) であり、チームはより速くトレーニングするためにコミュニティのサポートを必要としています。 __ Fake Vision の Web サイト__ にアクセスし、関心のあるニュース記事へのリンクを追加することで、あなたも偽の戦いのヒーローになることができます。その後、ニューラル ネットワークが信頼性をチェックし、信頼性スコアを出します。ユーザーは、段落ごとに Fake Vision の信頼度に同意または反対し、アルゴリズムの改善に役立てることができます。

結論

ニューラル ネットワークが十分に訓練されてほぼ完璧な精度が得られたら、チームは Fake Vision を拡張して、あらゆるニュースの信憑性をチェックできるようにすることを計画しています。 AI がすべての世界の問題を解決するわけではありませんが、優れたジャーナリズムと、偽の情報を識別できる AI を組み合わせることで、ウクライナが戦争に勝利し、ウクライナをより良い場所にすることができるでしょう。

会社の観点からは、戦争は課題を引き起こしますが、そのうちのいくつかは解決できると信じています。これは、私たちが自分自身の最高のバージョンになり、自分自身、国、および会社を助けるチャンスです。