Comment la guerre a conduit l'IA à lutter contre les fausses nouvelles

La guerre est la pire invention humaine qui ruine des vies et laisse des blessures non cicatrisées pendant de nombreuses générations. Les guerres du millénaire passé avaient au moins une certaine honnêteté dans la manière dont elles étaient déclarées, et il était clair qui était contre qui. Cependant, la guerre moderne est différente. La guerre de l'information est une énorme partie de la guerre en cours entre l'Ukraine et la Russie, avec beaucoup de fausses nouvelles qui manipulent l'opinion publique. Le gouvernement russe a déployé des réseaux entiers de chaînes de télévision qui ciblent le public occidental, et maintenant ils les utilisent intensivement pour changer l'opinion du monde sur l'Ukraine, faire de fausses déclarations à son sujet et convaincre que la Russie ne tue pas les gens mais les "sauve". "

Pourquoi est-ce important pour moi ?

La guerre m'a influencé personnellement. Je suis co-fondateur de Premier pont - une société de R&D informatique en Ukraine avec plus de 100 travailleurs ukrainiens. La guerre a fait des morts et des destructions massives dans notre pays, mais nous n'avons pas abandonné en tant que société ou en tant qu'entreprise. Nous avons continué à travailler pour soutenir notre équipe et notre nation.

Alors que la guerre se déroulait sur les fronts de bataille, nous avons été témoins de l'influence de la propagande russe sur les pays post-soviétiques, et de nombreux journalistes ukrainiens et autres ont commencé à lutter contre les faux russes dans ces pays. Cependant, nous oublions souvent la propagande que nous voyons moins souvent - la propagande russe dans le monde anglophone occidental, qui est très importante car elle couvre beaucoup plus de personnes qui influencent les décisions politiques des pays occidentaux. C'est alors que nous avons décidé que nous devions faire quelque chose pour lutter contre les fausses nouvelles.

Comment nous avons décidé d'utiliser l'IA pour lutter contre les contrefaçons

L'un de nos projets de développement interne pour BrandVision, notre partenaire, était le meilleur candidat avec la technologie appropriée pouvant être intégrée dans un nouvel outil de lutte contre les fake news. C'est un projet qui aide les marques à recevoir et à interagir efficacement avec les commentaires de leur public cible. Il utilise des réseaux de neurones pour l'analyse du contenu vidéo, audio et textuel sur YouTube, combiné à une analyse sémantique du contenu audio/texte. C'était une start-up à mi-chemin de MVP.

Nous voulions trouver un moyen de créer rapidement un produit adapté à la demande du marché. Dans le même temps, nous avons compris qu'il existait une guerre de l'information dans laquelle les technologies analytiques jouaient un rôle important. Voyant une lacune dans l'activité de lutte contre les ressources d'information de langue anglaise orientées vers l'Occident, nous avons choisi l'un des éléments de notre technologie pour résoudre ce problème.

Un pivot parfait

Et c'est à ce moment-là que nous avons fait un pivot et transformé Brand Vision en Fake Vision - un outil en ligne pour lutter contre la propagande militaire dans les médias occidentaux anglophones en vérifiant l'objectivité des informations à l'aide d'un réseau neuronal entraînable. Cela nous a permis de construire le produit réel en 2 mois au lieu de 6 mois et nous a donné l'opportunité d'aider notre pays. Et, en prime, en raison de la situation, il y a la possibilité d'une acquisition accélérée d'utilisateurs, ce qui nous aide et aide le pays.

La capacité d'interagir avec le contenu audio, texte et vidéo, ainsi qu'une réponse émotionnelle, est obtenue grâce à l'utilisation d'une variété de réseaux neuronaux qui sous-tendent le projet BrandVision. Cette expertise globale était à la base du projet Fake Vision, une initiative à but non lucratif créée à la suite de l'invasion de l'Ukraine. L'objectif principal du projet est de former un outil simple qui permette aux utilisateurs anglophones d'évaluer les nouvelles liées aux événements en Ukraine, de former une vision objective des événements et d'aborder la propagande en général.

Fausse vision

Fake Vision est un produit qui permet aux utilisateurs d'analyser des informations textuelles en termes de vérité et de mensonges. Attribution d'un score final sous forme de pourcentage de 0 à 100 %, où 0 est faux et 100 % est vrai. Les sites d'actualités peuvent être une source d'informations, pour lesquelles une approche individuelle de la collecte de données est conçue pour effectuer une analyse neuronale plus approfondie.

L'analyse d'un article de presse se compose de deux parties : un titre et le corps de l'article. Un réseau neuronal séparé analyse le titre et la partie principale de l'article est segmentée en paragraphes pour une évaluation plus précise afin que l'utilisateur puisse voir quelle partie du contenu est manipulatrice. Les capacités actuelles de Fake Vision sont basées sur une analyse article par article, ce qui signifie qu'un article peut être analysé par demande d'utilisateur. Dans le cadre du projet, un mécanisme de formation continue du réseau de neurones a été construit, qui permet aux utilisateurs d'évaluer l'objectivité des nouvelles, et nous en tenons compte à chaque cycle de formation à l'IA.

En tant que classificateur principal pour Fake Vision, un réseau de neurones récurrent de type mémoire bidirectionnelle à long court terme (bi-LSTM) a été choisi. Ces réseaux de neurones sont conçus pour construire des classificateurs de texte. Le schéma général du réseau LSTM est illustré à la figure 1.

Une étape clé du processus de classification est la formation du classificateur. Le classifieur est formé sur une base de données composée de matrices et de leurs étiquettes. L'étiquette contient des informations indiquant si cette matrice appartient à de fausses données ou à de vraies données. Les balises sont chargées à partir de la base de données et tous les articles de la base de données sont déjà marqués, qu'ils soient vrais ou non. Le classifieur est entraîné selon la méthode d'apprentissage supervisé, ce qui implique la présence d'un ensemble complet de données étiquetées pour entraîner le modèle à toutes les étapes de sa construction.

La figure montre le principe général de la formation des réseaux de neurones. Les articles sont envoyés au réseau de neurones et la sortie du réseau de neurones y est calculée et comparée à la "vérité" initialement donnée - z, à la suite de quoi l'erreur de réseau est calculée et les paramètres du réseau lui-même sont ajustés en fonction de cette erreur (voir Figure 2), sous forme de coefficients de pondération.

A la sortie du réseau de neurones, les données sont classées selon la fonction d'activation sigmoïdale, qui a la forme représentée sur la figure 3.

Stade actuel

Pour le moment, le réseau de neurones de Fake Vision est en cours de calibration (entraînement pour être aussi intelligent que le roi Salomon), et l'équipe a besoin du soutien de la communauté pour s'entraîner plus rapidement. Vous pouvez également devenir un faux héros de combat en vous rendant sur le site Web de __ Fake Vision __ et en ajoutant le lien vers l'article de presse qui les intéresse - après cela, le réseau de neurones vérifiera la fiabilité et donnera un score de fiabilité. Les utilisateurs peuvent ensuite être d'accord ou non avec la note de fiabilité de Fake Vision pour chaque paragraphe et aider à améliorer l'algorithme.

Conclusion

Une fois que le réseau neuronal s'est suffisamment entraîné pour avoir une précision presque parfaite, l'équipe prévoit d'étendre Fake Vision pour pouvoir vérifier la crédibilité de toute information. L'IA ne résoudra pas tous les problèmes mondiaux, mais un bon journalisme, associé à une IA capable d'identifier les fausses informations, aidera sûrement l'Ukraine à gagner la guerre et à en faire un meilleur endroit.

Du point de vue de l'entreprise, la guerre pose des défis, dont certains peuvent, selon nous, être relevés. C'est une chance pour nous d'être les meilleures versions de nous-mêmes et de nous aider nous-mêmes, notre pays et nos entreprises.