La IA generativa ha entrado en la ciberseguridad con toda su fuerza, y como cualquier tecnología poderosa, viene con sus pros y contras. Por un lado, los atacantes ya están experimentando con la IA para generar malware, campañas de phishing y crear deepfakes que erosionan la confianza.Por otro lado, los defensores están empezando a utilizar la IA para escalar las pruebas de penetración, acelerar la seguridad de las aplicaciones y reducir el dolor de la conformidad. Las apuestas son altas.Un reciente Las explosiones de día cero han aumentado un 46% año tras año, una señal clara de que los atacantes están acelerando. Para 2028, el 70% de las empresas adoptarán la IA para sus operaciones de seguridad. Informe de ForeScout Vedere Labs 2025 Gartner predice La realidad está en el medio: la IA ya está cambiando las pruebas de penetración, la seguridad de las aplicaciones y la conformidad, pero no es un reemplazo para la experiencia humana.En lugar de eso, es un multiplicador de fuerza, reformulando la rapidez y la eficacia con que los equipos de seguridad pueden descubrir debilidades, cumplir con las obligaciones regulatorias y prepararse para los oponentes que también están aprovechando la IA. La naturaleza de doble uso de la AI generativa La IA generativa en ciberseguridad se entiende mejor como una tecnología de doble uso: amplifica las capacidades de ataque y defensa. Género para los atacantes AI disminuye las barreras al generar correos electrónicos de phishing sofisticados, personas falsas, código malicioso e incluso cadenas de explotación automatizadas. Demostrar cómo los agentes autónomos pueden ser encargados de escanear, explotar y girar a través de los sistemas - borrando la línea entre la investigación de prueba de concepto y la capacidad adversaria. (un keylogger polimórfico generado por IA) y (comercializado en foros subterráneos como “ChatGPT para el cibercrimen”) ya han demostrado lo que es posible. CAI (Inteligencia Cognitiva Autónoma) BlackMamba WormGPT Género para Defensores Más allá de los copilotos SOC, la IA está siendo incorporada directamente en el ciclo de vida del desarrollo de software (SDLC) a través de revisores de código de seguridad de IA y escáneres de vulnerabilidad alimentados por IA. (con controles de codificación seguros), , y detectar problemas antes, reduciendo los costos de reparación a continuación. Ayuda a los analistas a triar las alertas y a acelerar las investigaciones. GitHub Copilot Código Snyk Código AI Copiloto de seguridad Esta dualidad es la razón por la que muchos expertos advierten de una “carrera de armas de IA” entre equipos de seguridad y ciberdelincuentes, donde la velocidad, la automatización y la adaptabilidad pueden decidir los resultados. Test de seguridad ofensiva y penetración Las pruebas de penetración han sido tradicionalmente intensivas, dependiendo de especialistas cualificados para investigar vulnerabilidades en redes, aplicaciones e infraestructuras. Large language models and autonomous agents can now: 
 
 
 
 Generar exploits personalizados y payloads a demanda. Mimic phishing y campañas de ingeniería social a escala. Execute rutinas confusas para simular vulnerabilidades de día cero antes de que los atacantes lo hagan. Un punto de prueba sorprendente es , el pentester AI autónomo que recientemente subió a En los índices de referencia controlados, XBOW resolvió 88 de los 104 desafíos en solo 28 minutos, una tarea que tomó a un experimentado test humano más de 40 horas. . XBOW # 1 Servicios de VPN de Palo Alto Other examples include: 
 
 
 
 AutoSploit, un primer intento de explotación asistida por IA que combina Shodan con Metasploit. Los cazadores de bugs usan LLMs como copilotos para el reconocimiento y la generación de carga útil. MITRE ATLAS, un marco que mapea cómo los adversarios podrían usar la IA en ataques cibernéticos. Sin embargo, a pesar de su velocidad y precisión, herramientas como XBOW todavía requieren supervisión humana.Los resultados automatizados deben ser validados, priorizados y, críticamente, mapeados a los riesgos regulatorios y empresariales. Esta es la forma de las pruebas de penetración que vendrán: un descubrimiento más rápido, aumentado por la IA, junto con el juicio de expertos para hacer que los resultados sean significativos para las empresas bajo presión de los reguladores y socios. Cómo se puede utilizar la IA generativa en la seguridad de las aplicaciones La cadena de suministro de software ha crecido demasiado grande y compleja para las pruebas puramente manuales, y la IA generativa está entrando como un copiloto. Key applications include: 
 
 
 
 
 
 Análisis de código y coproducción segura de SDLC: GitHub Copilot y CodiumAI detectan patrones inseguros antes de que el código llegue a la producción. Escáneres de seguridad alimentados por IA: Snyk Code AI y ShiftLeft Scan rastrean continuamente aplicaciones y APIs, marcando vulnerabilidades en tiempo real. Sugerencias de corrección automática: GitHub ahora genera solicitudes de retiro impulsadas por la IA que sugieren correcciones seguras. Testar aplicaciones basadas en LLM: El ascenso de chatbots alimentados por IA introduce nuevos riesgos. Los ataques de inyección inmediata ya están en el campo. OWASP respondió con el primer Top 10 para aplicaciones LLM en 2023. Fuzzing API y simulaciones de día cero: herramientas como Peach Fuzzer y agentes impulsados por la IA generan de forma autónoma entradas malformadas a escala. La promesa es la eficiencia, pero el desafío es la confianza.Un parche generado por la IA puede solucionar un problema mientras crea otro.Es por eso que la IA se implementa mejor como un acelerador en AppSec, con los humanos validando sus hallazgos y asegurando que las soluciones se alinean con marcos de cumplimiento como , de , o para el software médico. La ISO 27001 hipo FDA MDR / IVDR Cómo se puede utilizar la IA generativa en el cumplimiento y la gobernanza Más allá de la pentesting y la AppSec, la IA está encontrando un papel en el mundo de la conformidad, a menudo descuidado.Para las empresas de la tecnología de la salud, la biotecnología o la fintech, la conformidad puede hacer o romper el crecimiento, y la IA está empezando a reducir el peso. Emerging applications include: 
 
 
 
 Automatización de la recopilación de pruebas para ISO 27001, SOC 2, HIPAA y GDPR. Mapear las vulnerabilidades de los controles: vincular los hallazgos del pentest directamente a las cláusulas SPDF o ISO de la FDA. Generar informes listos para la auditoría: plataformas como Vendict, Scrut y Thoropass utilizan la IA para traducir la postura de seguridad en documentación amigable para los reguladores. Esto es particularmente poderoso en la genómica o el diagnóstico, donde las startups se enfrentan a una carga regulatoria pesada y necesitan demostrar la madurez tanto de la seguridad como de la conformidad para ganar asociaciones o financiación. Ejemplos de Industria El uso de la IA en la ciberseguridad no es hipotético - está jugando a través de las industrias hoy en día: 
 
 
 
 
 
 IBM, NVIDIA, Accenture: copilotos de IA para operaciones SOC y detección de amenazas. Vendict, Scrut, Thoropass: Incorporar la IA en los flujos de trabajo de GRC. Gobiernos y sectores de defensa: El AI Cyber Challenge (AIxCC) de DARPA utiliza la IA para la resiliencia de los equipos rojos. Adversarios: Los grupos de APT de Corea del Norte y los anillos de fraude organizados ya están utilizando la IA para fraudes de fraude, phishing y deepfake. Estudio de caso: En 2019, una empresa de energía del Reino Unido perdió 240.000 dólares después de que un CEO de voz profunda engañó a los empleados en el cableado de dinero. Riesgos emergentes de la IA generativa en la ciberseguridad La IA introduce nuevos vectores de ataque y amplifica los existentes: 
 
 
 
 
 
 
 Phishing y ingeniería social impulsados por la IA: los fraudes de audio Deepfake están creciendo en sofisticación. Injeción rápida y manipulación de modelos: OWASP's LLM Top 10 destaca la inyección rápida como el riesgo número uno. Bias y privacidad: los modelos de formación sobre conjuntos de datos sensibles corren el riesgo de violaciones de la conformidad bajo el RGPD. Sobre-dependencia: Tratar las salidas de IA como el evangelio corre el riesgo de manchas ciegas y falsos positivos. Alucinaciones: Los estudios muestran que los copilotos de IA fabrican vulnerabilidades o correcciones. Riesgo de dependencia: las interrupciones de SaaS o los cambios de API en las plataformas de IA pueden perturbar las tuberías. Mejores estrategias para la adopción segura de la IA Para adoptar la IA en pentesting, AppSec o cumplimiento de manera responsable, las organizaciones deben: 
 
 
 
 
 
 Mantener a los humanos en el ciclo: Validar los hallazgos de la IA antes de actuar. Gestionar la “AI de sombra”: evitar el uso de herramientas de IA no autorizadas (por ejemplo, la fuga de datos de Samsung a ChatGPT). Executa simulaciones continuas: El equipo rojo de inteligencia artificial de Microsoft prueba copilotos para detectar riesgos adversarios. Integración en SDLC seguras: Despliega revisores y escáneres de IA directamente en los pipelines de desarrollo. Aplicar marcos de gobernanza: el Marco de Gestión de Riesgos de la IA de NIST y las Directrices de Seguridad de la IA de la ENISA ayudan a garantizar el uso ético y seguro de la IA. Conclusión y Outlook Así que, ¿cómo se puede utilizar la IA generativa en la ciberseguridad? no reemplazará a los testadores de penetración, a los ingenieros de seguridad de aplicaciones o a los leads de cumplimiento, pero acelerará su trabajo, ampliará su cobertura y reformulará la forma en que se encuentran y reportan las vulnerabilidades. Los ganadores no serán los que adopten la IA ciegamente, ni los que la ignoran.Serán las organizaciones que aprovechan la IA como un copiloto de confianza - combinando velocidad con juicio humano, profundidad técnica con alineación regulatoria, y automatización con responsabilidad. El factor decisivo no será si las empresas utilizan la IA, sino cuán responsablemente, estratégicamente y de forma segura la utilizan, especialmente en sectores regulados donde la conformidad y la confianza no son negociables. Más lecturas y referencias 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 ForeScout Vedere Labs H1 2025 Threat Review 
 
 Gartner – The Future of AI in Cybersecurity 
 
 CAI – Cognitive Autonomous Intelligence 
 
 BlackMamba AI Keylogger 
 
 WormGPT Underground Tool 
 
 GitHub Copilot 
 
 CodiumAI 
 
 Snyk Code AI 
 
 Microsoft Security Copilot 
 
 XBOW Autonomous Pentester 
 
 Palo Alto GlobalProtect VPN Vulnerability 
 
 AutoSploit 
 
 AI in Bug Bounties – PortSwigger 
 
 MITRE ATLAS 
 
 OWASP Top 10 for LLM Apps 
 
 ISO 27001 Standard 
 
 HIPAA Security Rule 
 
 FDA Medical Device Regulation 
 
 FDA SPDF Guidance 
 
 Vendict 
 
 Scrut 
 
 Thoropass 
 
 IBM Security AI 
 
 NVIDIA AI for Security 
 
 Accenture Security 
 
 DARPA AIxCC 
 
 North Korean APT Attacks – Mandiant 
 
 WSJ – Deepfake CEO Fraud Case 
 
 FT – Deepfake Audio Scams 
 
 GDPR Text 
 
 Samsung ChatGPT Data Leak – The Register 
 
 Microsoft – AI Red Teaming 
 
 NIST AI Risk Management Framework 
 
 ENISA AI Security Guidelines

Visit Sekurno.com

Este audio es producido en el idioma original de la historia!

Demasiado Largo; Para Leer

Download free Tech Leaders Productivity Report!

Cómo se puede utilizar la IA generativa en la ciberseguridad

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Navegando por las aguas: desarrollo de aplicaciones RAG de nivel de producción con lagos de datos

Una breve introducción a la teoría del cerebro de Boltzmann

Valhalla de Floki se une como patrocinador asociado de la gira de la India por Sri Lanka

El modelo Bitcoin UTXO, impulsando un ecosistema único

Navegando por las aguas: desarrollo de aplicaciones RAG de nivel de producción con lagos de datos

Una breve introducción a la teoría del cerebro de Boltzmann

Valhalla de Floki se une como patrocinador asociado de la gira de la India por Sri Lanka

El modelo Bitcoin UTXO, impulsando un ecosistema único

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps