La capacidad de la IA para difundir la desinformación está alcanzando nuevas alturas inquietantes, tal vez la forma más alarmante sea su armonización a través de deepfakes. Recientemente, Scarlett Johansson llamó a una prohibición de la tecnología de deepfake después de que un vídeo apareciera en línea con una versión generada por la IA de ella. y y “También creo firmemente que el potencial para el discurso de odio multiplicado por la IA es una amenaza mucho mayor que cualquier persona que asuma la responsabilidad por ello. “También creo firmemente que el potencial para el discurso de odio multiplicado por la IA es una amenaza mucho mayor que cualquier persona que asuma la responsabilidad por ello. y . el Dijo Revista de personas La gente se dirige a menudo a la IA para acelerar las cosas o crear sensación, especialmente en la industria de los medios. usar la IA para crear citas y historias falsas.Crear historias sensacionales con la ayuda de la IA ya ha demostrado ser peligroso. Desinformación en Internet. Fue capturado Nació de Después del incidente de tres niñas siendo asesinadas trágicamente en el Reino Unido, los manifestantes crearon imágenes generadas por la IA que incitaban al odio y difundieron estereotipos dañinos. Los grupos de extrema derecha también utilizaron generadores de música de IA para crear canciones con contenido xenófobo. El guardián El guardián El pasado mes de octubre, según Los motores de búsqueda impulsados por la IA como Google, Microsoft y Perplexity se encontraron promoviendo el racismo científico en los resultados de búsqueda. Conexión Conexión ¿Recuerdas cuando el xAI de Elon Musk lanzó Grok-2, un generador de imágenes utilizando Flux con casi ninguna salvaguardia?Esta característica permitió a los usuarios crear deepfakes no censurados, como poseer como una pareja, provocando profundas preocupaciones, es este ¿O una amenaza peligrosa para la democracia y la integridad del discurso público? La vicepresidenta Kamala Harris y Donald Trump Libertad creativa sin precedentes Los deepfakes de Taylor Swift, las mujeres políticas y los niños que se volvieron virales el año pasado están forzando a las compañías de tecnología a sentarse y tomar nota. Henry Ajder, un experto en inteligencia artificial generativa que ha estudiado los deepfakes durante casi una década dijo: "Estamos en un punto de inflexión donde la presión de los legisladores y la conciencia entre los consumidores es tan grande que las compañías de tecnología ya no pueden ignorar el problema". El algoritmo y y "Estamos en un punto de inflexión donde la presión de los legisladores y la conciencia entre los consumidores es tan grande que las compañías de tecnología ya no pueden ignorar el problema". - Henry Ajder, experto en Gen AI. Henry Ajder, experto en genes AI. “We are at an inflection point where the pressure from lawmakers and awareness among consumers is so great that tech companies can’t ignore the problem anymore.” "Estamos en un punto de inflexión donde la presión de los legisladores y la conciencia entre los consumidores es tan grande que las compañías de tecnología ya no pueden ignorar el problema". "Estamos en un punto de inflexión donde la presión de los legisladores y la conciencia entre los consumidores es tan grande que las compañías de tecnología ya no pueden ignorar el problema". Google dice que es de aparecer en los resultados de búsqueda. Las marcas de agua y los escudos de protección no han funcionado realmente hasta ahora. Pero la regulación está siendo elevada. Por ejemplo, el Reino Unido prohibió tanto la creación como la distribución de deepfakes explícitos no consensuados. La UE tiene su Ley de IA y los EE.UU. ha estado presionando por la Ley de Defensa. Tomar medidas para mantener deepfakes explícitos Las startups como que se mueve y las manos que ondulan. Deepfakes simplemente se están volviendo mucho más realista. ¿Cómo vamos a detener el lado malo de esto? Synthesia promete deepfakes hiperrealistas con cuerpos completos AI is Aiding in Financial Fraud Ayuda en el fraude financiero Noticias falsas generadas por IA se propagan en las redes sociales , según un nuevo estudio británico que dice que los prestamistas deben mejorar el seguimiento para detectar cuándo la desinformación corre el riesgo de afectar al comportamiento del cliente. Aumentar los riesgos de las corridas bancarias La investigación de Juniper El valor del fraude en el comercio electrónico aumentará de 44,3 B$ en 2024 a 107 B$ en 2029, un crecimiento del 141%. predicciones Todo gracias a la IA, que está alimentando la sofisticación de los ataques en todo el ecosistema del comercio electrónico, con el uso de deepfakes creados utilizando la IA para derrotar a los sistemas de verificación siendo una amenaza clave.Esta amenaza, combinada con niveles crecientes de “fraude amigable”, donde el fraude es cometido por el propio cliente, como el fraude de reembolso, está amenazando cada vez más la rentabilidad de los comerciantes. La IA está ayudando a los estafadores a permanecer por delante de las medidas de seguridad y a cometer ataques sofisticados a una escala mayor.La IA también está haciendo posibles ataques de mayor calidad a una frecuencia sin precedentes al crear mensajes creíbles e identidades sintéticas. Should AI be as open as the internet? ¿Debería ser tan abierto como Internet? El jefe de AI de Meta, Yann LeCun, ha LeCun explicó que plataformas como ChatGPT y Llama constituirán un repositorio de todo el conocimiento y cultura humana, creando una infraestructura compartida como la de Internet hoy en día. Urgencias https://youtu.be/Z6X6OZODzMU?embedable=true El que no podemos tener un pequeño número de asistentes de IA (OpenAI ChatGPT y similares) controlando la dieta digital de cada ciudadano de todo el mundo. “Esto será extremadamente peligroso para la diversidad de pensamiento, para la democracia, para casi todo”, añadió. dijo A medida que la IA se vuelve cada vez más humana, debemos recordar que todavía no es humana. La IA es software y no muestra la inteligencia humana. Tecnología de Bloomberg Tecnología de Bloomberg "Tiene inteligencia si quieres darle ese apodo, pero no es la misma inteligencia que yo tengo", dice. y y Navanwita Bora Sachdev, editora de The Tech Panda Navanwita Bora Sachdev, Editor, The Tech Panda

Read My Stories

Este audio es producido en el idioma original de la historia!

La IA es una arma peligrosa en la era de la desinformación

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Telegram: el puente de Crypto Island hacia el continente

Cómo mejorar su flujo de trabajo 10 veces: 17 aplicaciones esenciales

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Telegram: el puente de Crypto Island hacia el continente

Cómo mejorar su flujo de trabajo 10 veces: 17 aplicaciones esenciales

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps