Como a guerra levou a IA a combater notícias falsas

A guerra é a pior invenção humana que arruína vidas e deixa feridas abertas por muitas gerações. As guerras do milênio passado tinham pelo menos alguma honestidade na forma como foram declaradas, e era claro quem era contra quem. No entanto, a guerra moderna é diferente. A guerra informacional é uma grande parte da guerra em curso entre a Ucrânia e a Rússia, com muitas notícias falsas que manipulam a opinião pública. O governo da Rússia implantou redes inteiras de canais de TV voltados para o público ocidental e agora os está utilizando fortemente para mudar a opinião do mundo sobre a Ucrânia, fazer falsas alegações sobre o assunto e convencer que a Rússia não está matando pessoas, mas "salvando-as". "

Por que é importante para mim?

A guerra me influenciou pessoalmente. Eu sou um co-fundador da primeira ponte - uma empresa de P&D de TI na Ucrânia com mais de 100 trabalhadores ucranianos. A guerra trouxe mortes e destruição em massa ao nosso país, mas não desistimos como sociedade e como empresa. Continuamos trabalhando para apoiar nossa equipe e nação.

À medida que a guerra se desenrolava nas frentes de batalha, testemunhamos como a propaganda russa estava influenciando os países pós-soviéticos, e muitos ucranianos e outros jornalistas começaram a lutar contra falsificações russas nesses condados. No entanto, muitas vezes nos esquecemos da propaganda que vemos com menos frequência - a propaganda russa no mundo ocidental de língua inglesa, o que é muito importante porque abrange muito mais pessoas que influenciam as decisões políticas dos países ocidentais. Foi aí que decidimos que tínhamos que fazer algo para ajudar a combater as fake news.

Como decidimos usar IA para combater falsificações

Um de nossos projetos de desenvolvimento interno para a BrandVision, nossa parceira, foi o melhor candidato com a tecnologia adequada que poderia ser incorporada a uma nova ferramenta de combate às fake news. É um projeto que ajuda as marcas a receber e interagir com o feedback de seu público-alvo de forma eficaz. Ele usa redes neurais para análise de conteúdo de vídeo, áudio e texto no YouTube, combinado com análise semântica de conteúdo de áudio/texto. Era uma startup em estágio inicial, a meio caminho do MVP.

Queríamos encontrar uma maneira de criar rapidamente um produto adequado à demanda do mercado. Ao mesmo tempo, entendemos que há uma guerra de informação na qual as tecnologias analíticas desempenham um papel importante. Vendo uma lacuna na atividade de combate aos recursos de informação em inglês orientados para o Ocidente, escolhemos um dos elementos de nossa tecnologia para resolver esse problema.

Um pivô perfeito

E foi aí que fizemos um pivô e transformamos a Brand Vision em Fake Vision - uma ferramenta online para lutar contra a propaganda militar na mídia ocidental de língua inglesa, verificando a objetividade das notícias usando uma rede neural treinável. Isso nos permitiu construir o produto real em 2 meses em vez de 6 meses e nos deu a oportunidade de ajudar nosso país. E, de bônus, pela situação, existe a possibilidade de aquisição acelerada de usuários, o que nos ajuda e ajuda o país.

A capacidade de interagir com conteúdo de áudio, texto e vídeo, bem como uma resposta emocional, é alcançada por meio do uso de uma variedade de redes neurais que fundamentam o projeto BrandVision. Essa experiência abrangente foi a base do projeto Fake Vision, uma iniciativa sem fins lucrativos formada como resultado da invasão da Ucrânia. O principal objetivo do projeto é formar uma ferramenta simples que permita aos usuários de língua inglesa avaliar as notícias relacionadas aos eventos na Ucrânia, formar uma visão objetiva dos eventos e lidar com a propaganda em geral.

visão falsa

Fake Vision é um produto que permite aos usuários analisar informações textuais em termos de verdade e mentira. Atribuir uma pontuação final como uma porcentagem de 0 a 100%, onde 0 é falso e 100% é verdadeiro. Sites de notícias podem ser uma fonte de informação, para a qual uma abordagem individual para coleta de dados é construída para conduzir análises neurais.

A análise de uma notícia é composta por duas partes: um título e o corpo do artigo. Uma rede neural separada analisa o título e a parte principal do artigo é segmentada em parágrafos para uma avaliação mais precisa, para que o usuário possa ver qual parte do conteúdo é manipuladora. Os recursos do Fake Vision de hoje são baseados na análise artigo por artigo, o que significa que um artigo pode ser analisado por solicitação do usuário. No âmbito do projeto, foi construído um mecanismo de treinamento contínuo da rede neural, que permite aos usuários avaliar a objetividade das notícias, e levamos isso em consideração em cada rodada de treinamento de IA.

Como classificador principal para o Fake Vision, foi escolhida uma rede neural recorrente do tipo Bidirecional Long short-term memory (bi-LSTM). Essas redes neurais são projetadas para construir classificadores de texto. O esboço geral da rede LSTM é mostrado na Figura 1.

Uma etapa fundamental no processo de classificação é o treinamento do classificador. O classificador é treinado em um banco de dados composto por matrizes e seus rótulos. A etiqueta contém informações sobre se esta matriz pertence a dados falsos ou dados verdadeiros. As tags são carregadas do banco de dados e todos os artigos no banco de dados já estão marcados, sejam eles verdadeiros ou não. O classificador é treinado de acordo com o método de aprendizado supervisionado, o que implica na presença de um conjunto completo de dados rotulados para treinar o modelo em todas as etapas de sua construção.

A figura mostra o princípio geral de treinamento de redes neurais. Os artigos são alimentados na rede neural, e a saída da rede neural y é calculada e comparada com a "verdade" inicialmente fornecida - z, como resultado do qual o erro da rede é calculado e os parâmetros da própria rede são ajustados de acordo com este erro (ver Figura 2), na forma de coeficientes de peso.

Na saída da rede neural, os dados são classificados de acordo com a função de ativação sigmoidal, que tem a forma mostrada na Figura 3.

Estágio atual

No momento, a rede neural do Fake Vision está em processo de calibração (treinando para ser tão inteligente quanto o Rei Salomão), e a equipe precisa do apoio da comunidade para treinar mais rápido. Você também pode se tornar um herói de combate falso acessando o site __ Fake Vision __ e adicionando o link para o artigo de notícias de seu interesse - depois disso, a rede neural verificará a confiabilidade e fornecerá uma pontuação de confiabilidade. Os usuários podem então concordar ou discordar com o grau de confiabilidade do Fake Vision para cada parágrafo e ajudar a melhorar o algoritmo.

Conclusão

Depois que a rede neural treina o suficiente para ter uma precisão quase perfeita, a equipe planeja expandir o Fake Vision para poder verificar a credibilidade de qualquer notícia. A IA não resolverá todos os problemas do mundo, mas o bom jornalismo, combinado com a IA que pode identificar informações falsas, certamente ajudará a Ucrânia a vencer a guerra e a tornar este um lugar melhor.

Do ponto de vista da empresa, a guerra traz desafios, alguns dos quais acreditamos que podem ser enfrentados. Esta é uma chance de sermos as melhores versões de nós mesmos e ajudar a nós mesmos, nosso país e nossas empresas.