Los peligros de la tecnología DeepFake: exploración de los riesgos potenciales de los videos e imágenes generados por IA

En abril de 2020, un video de la primera ministra de Bélgica, Sophie Wilmès, dando un discurso sobre el coronavirus La pandemia y su vínculo con el cambio climático se volvió viral en las redes sociales. El video se compartió como parte de una campaña para crear conciencia sobre los problemas ambientales.

Sin embargo, el video no era real. Era una falsificación profunda, generada por Extinction Rebellion Bélgica utilizando tecnología de inteligencia artificial que puede manipular las expresiones faciales y la voz de cualquier persona. El video fue etiquetado como una falsificación profunda, pero muchas personas no se dieron cuenta o ignoraron el descargo de responsabilidad. Algunos espectadores estaban confundidos e indignados por el discurso falso, mientras que otros elogiaron a la primera ministra por su valentía y visión.

Este ejemplo muestra cómo se puede utilizar la tecnología deep fake para difundir información errónea e influir en la opinión pública haciéndose pasar por importantes figuras públicas. También muestra lo difícil que puede ser detectar y verificar falsificaciones profundas, especialmente cuando se comparten en plataformas de redes sociales que tienen capacidades limitadas de moderación y verificación de hechos.

Imagina que estás viendo un video de tu celebridad favorita dando un discurso. Estás impresionado por su elocuencia y carisma, y estás de acuerdo con su mensaje. Pero luego descubres que el video no era real. Era un deep fake, un medio sintético creado por IA que puede manipular la apariencia y la voz de cualquier persona. Te sientes engañado y confundido.

¿Cómo puedes confiar en lo que ves y escuchas en línea?

Este ya no es un escenario hipotético; esto ahora es real. Hay varios deepfakes de destacados actores, celebridades, políticos e influencers que circulan por Internet. Algunos incluyen deepfakes de Tom Cruise y Keanu Reeves en TikTok, entre otros.

En términos simples, Deepfakes son videos e imágenes generados por IA que pueden alterar o fabricar la realidad de personas, eventos y objetos. Esta tecnología es un tipo de inteligencia artificial que puede crear o manipular imágenes, videos y audio que parecen y suenan realistas pero que no son auténticos.

La tecnología deepfake es cada día más sofisticada y accesible. Se puede utilizar para diversos fines, como entretenimiento, educación, investigación o arte. Sin embargo, también puede presentar serios riesgos para las personas y la sociedad, como difundir información errónea, violar la privacidad, dañar la reputación, suplantar la identidad e influir en la opinión pública.

En mi último artículo, hablé sobre la tecnología Deepfake, cómo funciona y sus impactos positivos y negativos. En este artículo, exploraré los peligros de la tecnología deep fake y cómo podemos protegernos de su daño potencial.

¿Cómo es la tecnología Deepfake una amenaza potencial para la sociedad?

Yo una vez y créanme, sentí que tenía que ser él aun cuando el mensaje del video rayaba en poder percibir lo real de lo irreal. Nunca entendí el mensaje hasta que llegué al final del video. Aparentemente, no fue Morgan Freeman, sino un Deepfake Morgan Freeman.

Antes de este conocimiento, me sentí bien escuchando a uno de mis actores más venerados de todos los tiempos, solo para estar un poco decepcionado al final que, de hecho, había escuchado una simulación de IA. A este ritmo, ¿qué pasa si varios videos que vemos son solo deepfakes? La amenaza a la realidad es cada vez más alarmante.

La tecnología deepfake es una amenaza potencial para la sociedad porque puede:

• Difundir información errónea y noticias falsas que pueden influir en la opinión pública, socavar la democracia y causar malestar social.
• Violar la privacidad y el consentimiento mediante el uso de datos personales sin permiso y la creación de abusos, chantajes o acosos sexuales basados en imágenes.
• Dañar la reputación y la credibilidad al suplantar o difamar a personas, organizaciones o marcas.
• Cree riesgos de seguridad al permitir el robo de identidad, el fraude o los ataques cibernéticos.
• La tecnología deepfake también puede erosionar la confianza en el ecosistema digital, lo que dificulta la verificación de la autenticidad y la fuente de información.

Los peligros y usos negativos de la tecnología Deepfake

Por mucho que pueda haber algunos aspectos positivos en la tecnología deepfake, los aspectos negativos superan fácilmente a los aspectos positivos en nuestra sociedad en crecimiento. Algunos de los usos negativos de las falsificaciones profundas incluyen:

1. Deepfakes se puede utilizar para crear material para adultos falso con celebridades o personas normales sin su consentimiento, violando su privacidad y dignidad. Porque se ha vuelto muy fácil reemplazar una cara por otra y cambiar una voz en un video. Sorprendente, pero cierto. Mira este thriller de que reemplazó a Tom Holland con un deepfake de Tobey Maguire, el primer Spiderman. Nunca notarías la diferencia hasta que te lo digan. Si es tan fácil, entonces cualquier alteración de video es posible.

   
   

2. Deepfakes se puede utilizar para difundir información errónea y noticias falsas que pueden engañar o manipular al público. Deepfakes se puede utilizar para crear material engañoso, como discursos, entrevistas o eventos falsos, que involucran a políticos, celebridades u otras figuras influyentes.

   Como mencioné al comienzo del artículo, la primera ministra de Bélgica, Sophie Wilmès, pronunció un discurso, la verdadera Sophie Wilmès nunca pronunció. Otro estudio de caso es un haciendo un anuncio de servicio público.

   
   

3. Dado que se pueden realizar intercambios de rostros y cambios de voz con la tecnología deepfake, se puede utilizar para socavar la democracia y la estabilidad social al influir en la opinión pública, incitar a la violencia o interrumpir las elecciones.

   Se puede crear propaganda falsa, mensajes de voz falsos y videos que son muy difíciles de decir que son irreales y se pueden usar para influir en la opinión pública, provocar calumnias o chantajes que involucren a candidatos, partidos o líderes políticos.

   
   

4. Las falsificaciones profundas se pueden utilizar para dañar la reputación y la credibilidad al hacerse pasar por personas, organizaciones o marcas difamatorias o difamatorias. Imagine poder obtener el deepfake de Keanu Reeves en TikTok creando reseñas, testimonios o respaldos falsos que involucren a clientes, empleados o competidores.

   
   

   Para las personas que no saben, son fáciles de convencer y, en caso de que algo salga mal, puede dañar la reputación y perder la confianza en el actor.

   
   

5. Deepfakes se puede utilizar para crear riesgos de seguridad al permitir el robo de identidad, el fraude o los ataques cibernéticos. En 2019, el director ejecutivo de una empresa de energía con sede en el Reino Unido recibió una llamada de su jefe, el director de la empresa matriz alemana de la empresa, que ordenaba la transferencia de 220 000 € a un proveedor en Hungría. Según fuentes noticiosas , el director ejecutivo reconoció el "ligero acento alemán y la melodía" de la voz de su jefe y cumplió con la directiva de enviar los fondos en una hora.

   Sin embargo, la persona que llamó había pedido otra transferencia y luego comenzó a sospechar y luego se confirmó que era un fraude. Lamentablemente, esto era solo una falsificación profunda de la voz de su jefe y los 220 000 € iniciales se habían trasladado a México y canalizado a otras cuentas.

   Pero este no es el único incidente de fraude deepfake. La tecnología deepfake se ha utilizado en varias situaciones para crear estafas de phishing, ingeniería social u otras estafas que involucran información personal o financiera.

Implicaciones éticas, legales y sociales de la tecnología Deepfake

1. Implicaciones éticas

   La tecnología deepfake puede violar los derechos morales y la dignidad de las personas cuyas imágenes o voces se utilizan sin su consentimiento, como la creación de material pornográfico falso, material difamatorio o robo de identidad que involucre a celebridades o personas comunes. La tecnología deepfake también puede socavar los valores de la verdad, la confianza y la responsabilidad en la sociedad cuando se utiliza para difundir información errónea, noticias falsas o propaganda que puede engañar o manipular al público.

   
   

2. Implicaciones legales

   La tecnología deepfake puede plantear desafíos a los marcos legales y regulaciones existentes que protegen los derechos de propiedad intelectual, los derechos de difamación y los derechos contractuales, ya que puede infringir los derechos de autor, marca comercial o publicidad de las personas cuyas imágenes o voces se utilizan sin su permiso. .

   
   

   La tecnología deepfake puede violar los derechos de privacidad de las personas cuyos datos personales se utilizan sin su consentimiento. Puede difamar la reputación o el carácter de las personas que son retratadas falsamente de manera negativa o dañina.

   
   

3. Implicaciones sociales

   La tecnología deepfake puede tener impactos negativos en el bienestar social y la cohesión de individuos y grupos, ya que puede causar daños psicológicos, emocionales o financieros a las víctimas de la manipulación deepfake, que pueden sufrir angustia, ansiedad, depresión o pérdida de ingreso.

   También puede crear divisiones sociales y conflictos entre diferentes grupos o comunidades, incitando a la violencia, el odio o la discriminación contra ciertos grupos por su raza, género, religión o afiliación política.

   
   

Me temo que en el futuro, la tecnología deepfake podría usarse para crear formas más sofisticadas y maliciosas de desinformación y propaganda si no se controla. También podría usarse para crear pruebas falsas de delitos, escándalos o corrupción que involucren a opositores políticos o activistas, o para crear testimonios, avales o reseñas falsos que involucren a clientes, empleados o competidores.

Imagine tener videos falsos de líderes mundiales que declaran la guerra, hacen confesiones falsas o respaldan ideologías extremistas. Eso podría ser muy perjudicial para el mundo en general.

Los desafíos de detectar y regular la tecnología Deepfake

El estado actual de la detección y regulación de deepfakes aún está evolucionando y enfrenta muchos desafíos. Algunas de las razones por las que es difícil identificar y evitar que el contenido deepfake se propague en línea son:

1. Avance y facilidad de acceso: la calidad y el realismo del contenido deepfake están mejorando a medida que las redes neuronales artificiales que los generan se vuelven más sofisticadas y se entrenan en conjuntos de datos más grandes y diversos. La disponibilidad y la asequibilidad del software y los servicios deepfake también están aumentando, lo que facilita que cualquier persona cree y comparta contenido deepfake en línea.
2. No escalabilidad y falta de confiabilidad de los métodos de detección: los métodos existentes para detectar contenido ultrafalso se basan en el análisis de varias características o artefactos de las imágenes, videos o audio, como expresiones faciales, movimientos oculares, textura de la piel, iluminación, sombras o ruido de fondo. . Sin embargo, estos métodos no siempre son precisos o consistentes, especialmente cuando el contenido falso profundo es de baja calidad, comprimido o editado. Además, estos métodos no son escalables ni eficientes, ya que requieren muchos recursos computacionales y tiempo para procesar grandes cantidades de datos.
3. Regulaciones complejas y controvertidas: las cuestiones legales y éticas que rodean el contenido deepfake no son claras ni uniformes en las diferentes jurisdicciones, contextos y propósitos. Por ejemplo, el contenido deepfake puede implicar varios derechos e intereses, como derechos de propiedad intelectual, derechos de privacidad, derechos de difamación, derechos contractuales, derechos de libertad de expresión e interés público. Sin embargo, estos derechos e intereses pueden entrar en conflicto o superponerse entre sí, creando dilemas y compensaciones para legisladores y reguladores.

4. 
   

Además, la aplicación y supervisión de la regulación de deepfake puede enfrentar dificultades prácticas y técnicas, como identificar a los creadores y distribuidores de contenido de deepfake, establecer su responsabilidad y rendición de cuentas, e imponer sanciones o remedios apropiados.

Estrategias y soluciones actuales y futuras para detectar, prevenir y combatir la tecnología Deepfake

1. Políticas de las plataformas de redes sociales: las plataformas de redes sociales pueden implementar políticas, pautas y estándares para regular la creación y difusión de contenido falso profundo en sus plataformas, al prohibir o etiquetar las falsificaciones profundas dañinas o engañosas, o al exigir a los usuarios que divulguen el uso de tecnología falsa profunda. . Esta estrategia puede ser efectiva para reducir la exposición y la propagación de deepfakes dañinos o engañosos en plataformas populares e influyentes, como Facebook, Twitter o YouTube. Las herramientas de detección y verificación de deepfakes, como las marcas de agua digitales, los sistemas de procedencia basados en cadenas de bloques o los motores de búsqueda de imágenes inversas, también se pueden implementar para guiar contra la carga de cualquier deepfake. Estas plataformas también pueden colaborar con otras partes interesadas, como verificadores de hechos, investigadores o grupos de la sociedad civil, para monitorear y contrarrestar el contenido falso. Sin embargo, estas soluciones pueden enfrentar desafíos como escalabilidad, precisión, transparencia y responsabilidad.

   
   

2. Algoritmos de detección: los algoritmos de detección pueden usar técnicas de aprendizaje automático y visión por computadora para analizar las funciones y características del contenido falso profundo, como expresiones faciales, movimientos oculares, iluminación o calidad de audio, e identificar inconsistencias o anomalías que indiquen manipulación. Los investigadores pueden desarrollar y mejorar tecnologías de verificación y detección de falsificaciones profundas, como redes neuronales artificiales, algoritmos de visión artificial o sistemas de autenticación biométrica para mejorar los algoritmos de detección.

   También pueden crear y compartir conjuntos de datos y puntos de referencia para evaluar métodos de verificación y detección de falsificación profunda, y realizar estudios interdisciplinarios sobre las implicaciones sociales y éticas de la tecnología de falsificación profunda. Esta estrategia puede ser efectiva en el análisis de características mediante la identificación de inconsistencias o anomalías que indiquen manipulación. Sin embargo, estas soluciones pueden enfrentar desafíos como la disponibilidad, la calidad y la privacidad de los datos, así como dilemas éticos y riesgos de uso dual.

   
   

3. Reacción de Internet: Esto se refiere a la respuesta colectiva de los usuarios y las comunidades en línea al contenido de las falsificaciones profundas, por ejemplo, marcando, informando, desacreditando o criticando las falsificaciones profundas sospechosas o dañinas, o creando contranarrativas o parodias para exponerlas o ridiculizarlas. Los usuarios pueden adoptar habilidades de pensamiento crítico y alfabetización mediática para identificar y verificar contenido falso profundo, y también pueden usar herramientas de detección y verificación de falsificación profunda, como extensiones de navegador, aplicaciones móviles o plataformas en línea para detectar las falsificaciones profundas que encuentran en las redes sociales u otras plataformas. que pueden denunciar o marcar como contenido ultrafalso. La estrategia de reacción de Internet puede ser efectiva para movilizar la respuesta colectiva de los usuarios y las comunidades en línea al contenido falso. Sin embargo, estas soluciones pueden enfrentar desafíos como sesgos cognitivos, sobrecarga de información, brecha digital y problemas de confianza.

   
   

4. Iniciativas de DARPA: las iniciativas de DARPA se refieren a los proyectos de investigación y desarrollo financiados por la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) para avanzar en el desarrollo de tecnologías de detección y mitigación de falsificación profunda, como la creación de conjuntos de datos a gran escala, puntos de referencia y desafíos para la investigación de falsificación profunda. . Su objetivo es desarrollar tecnologías que puedan detectar y analizar automáticamente deepfakes y otras formas de manipulación de medios. DARPA ha tenido dos programas dedicados a la detección de deepfakes: Media Forensics (MediFor) y Semantic Forensics (SemaFor).

   
   

   • Media Forensics (MediFor) , que concluyó en el año fiscal 2021, tenía como objetivo desarrollar algoritmos para evaluar automáticamente la integridad de fotos y videos y proporcionar a los analistas información sobre cómo se generó el contenido falsificado. Según se informa, el programa exploró técnicas para identificar las inconsistencias audiovisuales presentes en las falsificaciones profundas, como las inconsistencias en los píxeles (integridad digital), las inconsistencias con las leyes de la física (integridad física) y las inconsistencias con otras fuentes de información (integridad semántica). Se espera que las tecnologías de MediFor hagan la transición a los comandos operativos y la comunidad de inteligencia.

     
     

   • Semantic Forensics (SemaFor) , que se anunció en 2021, busca dar a los analistas la ventaja en la lucha entre detectores y manipuladores mediante el desarrollo de tecnologías que sean capaces de automatizar la detección, atribución y caracterización de activos de medios falsificados. El programa tiene como objetivo explotar una debilidad crítica en los generadores de medios automatizados: la dificultad de obtener toda la semántica correcta. Por ejemplo, asegurarse de que todo esté alineado, desde el texto de una noticia hasta la imagen que lo acompaña, hasta los elementos dentro de la imagen misma. SemaFor también está desarrollando tecnologías para ensamblar y curar automáticamente la evidencia proporcionada por los algoritmos de detección, atribución y caracterización.

     Además, DARPA construyó modelos defensivos falsos para documentar cómo las personas mueven la cabeza y los músculos faciales. La agencia usó estos datos y los integró en una herramienta de software para analizar videos de "individuos de alto perfil" y comparar comportamientos con el individuo real.

   
   

5. Respuesta legal: Esta es la aplicación de leyes y regulaciones existentes o nuevas para abordar los problemas legales y éticos planteados por la tecnología deepfake, como proteger los derechos e intereses de las víctimas del abuso deepfake, o responsabilizar a los perpetradores por sus acciones. . Los gobiernos pueden promulgar leyes y reglamentos que prohíban o restrinjan la creación y difusión de contenido falso dañino, como la pornografía no consentida, la difamación o la interferencia electoral. También pueden apoyar la investigación y el desarrollo de tecnologías de verificación y detección de falsificación profunda, así como campañas de educación y concientización pública.

   Algunas leyes abordan la tecnología deepfake en diferentes países, pero no son muy completas ni coherentes.

   
   

   Por ejemplo:

   • En los EE. UU., la Ley de Autorización de Defensa Nacional (NDAA) exige que el Departamento de Seguridad Nacional (DHS) emita un informe anual sobre las falsificaciones profundas y su daño potencial. La Ley de Identificación de Resultados de Redes Adversarias Generativas requiere que la Fundación Nacional de Ciencias (NSC) y el Instituto Nacional de Estándares (NIS) y Tecnología investiguen la tecnología deepfake y las medidas de autenticidad. Sin embargo, no existe una ley federal que prohíba o regule explícitamente la tecnología deepfake.

   • En China , una nueva ley exige que el material manipulado tenga el consentimiento del sujeto y lleve firmas digitales o marcas de agua, y que los proveedores de servicios falsos profundos ofrezcan formas de "refutar los rumores". Sin embargo, a algunas personas les preocupa que el gobierno pueda usar la ley para restringir la libertad de expresión o censurar las voces disidentes.

   • En India, no existe una ley explícita que prohíba las falsificaciones profundas, pero algunas leyes existentes, como la Ley de tecnología de la información o el Código Penal indio, pueden ser aplicables en casos de difamación, fraude u obscenidad que involucren falsificaciones profundas.

   • En el Reino Unido, tampoco existe una ley específica sobre deepfakes, pero algunas doctrinas legales, como la privacidad, la protección de datos, la propiedad intelectual o la suplantación, pueden ser relevantes en disputas relacionadas con un deepfake no deseado o un video manipulado.

     
     

   Las respuestas legales pueden ser una estrategia eficaz para luchar contra el carácter dudoso de las falsificaciones profundas. Sin embargo, estas soluciones pueden enfrentar desafíos como equilibrar la libertad de expresión y los derechos de privacidad, hacer cumplir la jurisdicción transfronteriza y adaptarse a la tecnología que cambia rápidamente.

Recomendaciones e instrucciones para futuras investigaciones o acciones sobre la tecnología Deepfake

La tecnología DeepFake sigue en aumento y evoluciona rápidamente a versiones mejores y más realistas todos los días. Esto exige la necesidad de ser más proactivos al abordar la amenaza que puede acompañar a esta tecnología. A continuación se presentan algunas de las acciones que creo que se pueden implementar para mitigar su impacto negativo:

• Verificación y autenticación del contenido: los consumidores siempre deben verificar la fuente y la autenticidad del contenido que encuentran o crean, mediante el uso de búsqueda inversa de imágenes o videos, sistemas de verificación basados en cadenas de bloques o técnicas de marca de agua digital.

• Fuentes de información múltiples y confiables: los consumidores de medios digitales siempre deben buscar fuentes de información múltiples y confiables para corroborar o refutar el contenido que encuentran o crean, consultando medios de comunicación, verificadores de datos o expertos de buena reputación.

• Desarrollo de herramientas y algoritmos de detección rápidos, robustos y adaptables para la verificación y la atribución: Debería prestarse más atención al desarrollo de algoritmos de detección más robustos y adaptables que puedan hacer frente al creciente realismo y la diversidad del contenido falso profundo, por ejemplo mediante el uso multimodal o cruzado. enfoques de dominio, incorporando comentarios humanos o aprovechando el aprendizaje antagónico. Se deben explorar nuevas herramientas y métodos para la verificación y atribución de contenido digital, como el uso de sistemas de verificación basados en cadenas de bloques, técnicas de marca de agua digital o búsqueda inversa de imágenes o videos, y se necesita más investigación para desarrollar y mejorar las tecnologías de verificación y detección de falsificaciones profundas. así como comprender y abordar las implicaciones sociales y éticas de la tecnología deepfake.

• Establecimiento de marcos y estándares éticos y legales para la tecnología deepfake: se debe realizar más investigación para crear marcos y estándares éticos y legales para la tecnología deepfake, por ejemplo, definiendo los derechos y responsabilidades de los creadores y consumidores de contenido deepfake, estableciendo los límites y criterios para los usos legítimos e ilegítimos de la tecnología deepfake, o hacer cumplir las leyes y reglamentos para proteger a las víctimas y castigar a los perpetradores de abusos deepfake. Se necesitan más acciones legales para promulgar y hacer cumplir las leyes y reglamentos que protegen los derechos e intereses de las víctimas y los objetivos del contenido falso profundo dañino, como la pornografía no consentida, la difamación o la interferencia electoral.

  
  

  Las acciones deben ser coordinadas, coherentes y adaptables, teniendo en cuenta la naturaleza transfronteriza del contenido deepfake y la naturaleza cambiante de la tecnología deepfake, y deben ser equilibradas, proporcionadas y respetuosas, teniendo en cuenta la libertad de expresión y los derechos de privacidad. de los creadores y consumidores de contenido deepfake.

• Promoción de la educación y la concientización sobre la tecnología deepfake: las investigaciones o acciones futuras sobre la tecnología deepfake deben promover la educación y la concientización sobre la tecnología deepfake entre varias partes interesadas, por ejemplo, brindando capacitación y orientación para periodistas, verificadores de hechos, educadores, legisladores y el público en general. sobre cómo crear, consumir y responder a contenido deepfake de manera responsable y crítica.

• Informar o marcar contenido sospechoso o dañino: los consumidores deben ser conscientes de la existencia y la prevalencia del contenido ultrafalso y deben usar el pensamiento crítico y las habilidades de alfabetización mediática para identificarlo y verificarlo. Deben ser rápidos al informar o marcar el contenido falso que encuentran en las redes sociales u otras plataformas, mediante el uso de herramientas o mecanismos de informes proporcionados por las plataformas de redes sociales, las fuerzas del orden u organizaciones de la sociedad civil.

• Respetar los derechos e intereses de los demás: los productores de medios digitales siempre deben respetar los derechos e intereses de los demás al crear o compartir contenido que involucre tecnología deepfake, al obtener consentimiento, divulgar el uso de tecnología deepfake o evitar propósitos maliciosos o engañosos. Deben ser conscientes de los daños y beneficios potenciales de la tecnología deepfake y deben usarla de manera responsable y ética, siguiendo los principios de consentimiento, integridad y responsabilidad.

Conclusión

La tecnología deepfake tiene el potencial de crear contenido falso o engañoso que puede dañar a individuos o grupos de varias maneras. Sin embargo, la tecnología deepfake también puede tener usos positivos para el entretenimiento, los medios, la política, la educación, el arte, la atención médica y la accesibilidad. Por lo tanto, es importante equilibrar los riesgos y beneficios de la tecnología deepfake y desarrollar formas efectivas y éticas de detectarla, prevenirla y regularla.

Para lograr este objetivo, los gobiernos, las plataformas, los investigadores y los usuarios deben colaborar y coordinar sus esfuerzos, así como aumentar su conciencia y responsabilidad. Al hacerlo, podemos aprovechar el poder y los beneficios potenciales de la tecnología deepfake, mientras minimizamos su daño.