Cómo la guerra llevó a la IA a luchar contra las noticias falsas

La guerra es el peor invento humano que arruina vidas y deja heridas sin cicatrizar durante muchas generaciones. Las guerras del pasado milenio tenían al menos algo de honestidad en la forma en que se declaraban, y estaba claro quién estaba contra quién. Sin embargo, la guerra moderna es diferente. La guerra informativa es una gran parte de la guerra en curso entre Ucrania y Rusia, con muchas noticias falsas que manipulan la opinión pública. El gobierno de Rusia ha desplegado redes enteras de canales de televisión que se dirigen a las audiencias occidentales, y ahora las están utilizando en gran medida para cambiar la opinión del mundo sobre Ucrania, hacer afirmaciones falsas al respecto y convencer de que Rusia no está matando gente sino "salvándolas". "

¿Por qué me importa?

La guerra me ha influido personalmente. Soy co-fundador de primer puente - una empresa de I+D de TI en Ucrania con más de 100 trabajadores ucranianos. La guerra trajo muertes y destrucción masiva a nuestro país, pero no nos rendimos como sociedad ni como empresa. Seguimos trabajando para apoyar a nuestro equipo y nación.

A medida que se desarrollaba la guerra en los frentes de batalla, fuimos testigos de cómo la propaganda rusa estaba influyendo en los países postsoviéticos, y muchos periodistas ucranianos y de otros países comenzaron a luchar contra las falsificaciones rusas en estos países. Sin embargo, a menudo nos olvidamos de la propaganda que vemos con menos frecuencia: la propaganda rusa en el mundo occidental de habla inglesa, que es muy importante porque cubre a muchas más personas que influyen en las decisiones políticas de los países occidentales. Fue entonces cuando decidimos que teníamos que hacer algo para ayudar a combatir las noticias falsas.

Cómo decidimos utilizar la IA para luchar contra las falsificaciones

Uno de nuestros proyectos de desarrollo interno para BrandVision, nuestro socio, fue el mejor candidato con la tecnología adecuada que podría incorporarse a una nueva herramienta para luchar contra las noticias falsas. Es un proyecto que ayuda a las marcas a recibir e interactuar con los comentarios de su público objetivo de manera efectiva. Utiliza redes neuronales para el análisis de contenido de video, audio y texto en YouTube, combinado con análisis semántico de contenido de audio/texto. Era una startup en etapa inicial a medio camino de MVP.

Queríamos encontrar una manera de crear rápidamente un producto adecuado para la demanda del mercado. Al mismo tiempo, comprendimos que existe una guerra de información en la que las tecnologías analíticas juegan un papel importante. Al ver una brecha en la actividad de combatir los recursos de información en inglés de orientación occidental, hemos elegido uno de los elementos de nuestra tecnología para resolver este problema.

Un pivote perfecto

Y fue entonces cuando dimos un giro y convertimos Brand Vision en Fake Vision, una herramienta en línea para luchar contra la propaganda militar en los medios de comunicación en inglés occidental mediante la verificación de la objetividad de las noticias mediante una red neuronal entrenable. Esto nos permitió construir el producto real en 2 meses en lugar de 6 meses y nos dio la oportunidad de ayudar a nuestro país. Y como plus, por la coyuntura, está la posibilidad de captación acelerada de usuarios, que nos ayuda y ayuda al país.

La capacidad de interactuar con contenido de audio, texto y video, así como una respuesta emocional, se logra mediante el uso de una variedad de redes neuronales que subyacen en el proyecto BrandVision. Esta experiencia integral fue la base del proyecto Fake Vision, que es una iniciativa sin fines de lucro que se formó como resultado de la invasión de Ucrania. El objetivo principal del proyecto es formar una herramienta simple que permita a los usuarios de habla inglesa evaluar las noticias relacionadas con los eventos en Ucrania, formar una visión objetiva de los eventos y abordar la propaganda en general.

visión falsa

Fake Vision es un producto que permite a los usuarios analizar información textual en términos de verdad y mentira. Asignando un puntaje final como un porcentaje de 0 a 100%, donde 0 es falso y 100% es verdadero. Los sitios de noticias pueden ser una fuente de información, para lo cual se crea un enfoque individual de recopilación de datos para realizar un análisis neuronal adicional.

El análisis de un artículo periodístico consta de dos partes: un título y el cuerpo del artículo. Una red neuronal separada analiza el título y la parte principal del artículo se segmenta en párrafos para una evaluación más precisa, de modo que el usuario pueda ver qué parte del contenido es manipulable. Las capacidades de Fake Vision actuales se basan en el análisis artículo por artículo, lo que significa que se puede analizar un artículo por solicitud del usuario. En el marco del proyecto se ha construido un mecanismo de entrenamiento continuo de la red neuronal, que permite a los usuarios evaluar la objetividad de las noticias, y lo tenemos en cuenta en cada ronda de entrenamiento de IA.

Como principal clasificador de Fake Vision se eligió una red neuronal recurrente del tipo Bidireccional Long short-term memory (bi-LSTM). Estas redes neuronales están diseñadas para construir clasificadores de texto. El esquema general de la red LSTM se muestra en la Figura 1.

Un paso clave en el proceso de clasificación es entrenar al clasificador. El clasificador se entrena en una base de datos que consta de matrices y sus etiquetas. La etiqueta contiene información sobre si esta matriz pertenece a datos falsos o datos verdaderos. Las etiquetas se cargan desde la base de datos y todos los artículos en la base de datos ya están marcados, ya sea que sean verdaderos o no. El clasificador se entrena según el método de aprendizaje supervisado, lo que implica la presencia de un conjunto completo de datos etiquetados para entrenar el modelo en todas las etapas de su construcción.

La figura muestra el principio general de entrenamiento de redes neuronales. Los artículos se alimentan a la red neuronal, y la salida de la red neuronal y se calcula y se compara con la "verdad" dada inicialmente - z, como resultado de lo cual se calcula el error de la red y se ajustan los parámetros de la red misma. de acuerdo con este error (ver Figura 2), en forma de coeficientes de peso.

A la salida de la red neuronal, los datos se clasifican de acuerdo con la función de activación sigmoidal, que tiene la forma que se muestra en la Figura 3.

Etapa actual

Por el momento, la red neuronal de Fake Vision está en proceso de calibración (entrenando para ser tan inteligente como el Rey Salomón), y el equipo necesita el apoyo de la comunidad para entrenar más rápido. También puedes convertirte en un héroe de lucha falso yendo al sitio web de __ Fake Vision __ y agregando el enlace al artículo de noticias de su interés; después de eso, la red neuronal verificará la confiabilidad y otorgará un puntaje de confiabilidad. Luego, los usuarios pueden estar de acuerdo o en desacuerdo con el grado de confiabilidad de Fake Vision para cada párrafo y ayudar a mejorar el algoritmo.

Conclusión

Después de que la red neuronal se entrene lo suficiente para tener una precisión casi perfecta, el equipo planea expandir Fake Vision para poder verificar la credibilidad de cualquier noticia. La IA no solucionará todos los problemas mundiales, pero el buen periodismo, junto con la IA que puede identificar información falsa, seguramente ayudará a Ucrania a ganar la guerra y hacer de este un lugar mejor.

Desde el punto de vista de la empresa, la guerra genera desafíos, algunos de los cuales creemos que se pueden abordar. Esta es una oportunidad para que seamos las mejores versiones de nosotros mismos y nos ayudemos a nosotros mismos, a nuestro país y a nuestras empresas.