Generative AI влезе в киберсигурността с пълна сила и като всяка мощна технология, тя идва със своите плюсове и минуси. От една страна, нападателите вече експериментират с AI, за да генерират зловреден софтуер, да създават фишинг кампании и да създават дълбоки фалшификати, които подкопават доверието. Залозите са високи.Последният Експлозиите с нулеви дни са се увеличили с 46% годишно - ясен сигнал, че нападателите се ускоряват. До 2028 г. 70% от предприятията ще използват изкуствения интелект за своите операции по сигурността. Доклад на ForeScout Vedere Labs 2025 Gartner прогнозира Реалността е в средата: AI вече променя тестовете за проникване, сигурността на приложенията и съответствието – но това не е заместител на човешкия опит.Вместо това, това е умножител на силите, преоформяйки колко бързо и ефективно екипите по сигурността могат да открият слабости, да отговорят на регулаторните задължения и да се подготвят за противници, които също използват AI. Двойното използване на генериращия AI Generative AI в киберсигурността се разбира най-добре като технология с двойна употреба - тя усилва както възможностите за атака, така и за отбрана. ГЕРБ за нападателите AI намалява бариерите, като генерира сложни имейли за фишинг, фалшиви личности, злонамерен код и дори автоматизирани вериги за експлоатация. демонстрират как автономните агенти могат да бъдат натоварени със сканиране, експлоатация и въртене през системите – замъгляване на границата между доказателственото изследване на концепцията и способността на противника. (което се нарича полиморфен кейлъгър) и (продавани на подземни форуми като "ChatGPT за киберпрестъпност") вече са показали какво е възможно. Когнитивен автономен интелект (Cognitive Autonomous Intelligence) Черна Мама WormGPT ГЕРБ за защитниците AI осигурява мащаб, скорост и интелигентност.Освен копия на SOC, AI се вгражда директно в жизнения цикъл на разработването на софтуер (SDLC) чрез преглеждащи кодове за сигурност на AI и сканери за уязвимости, задвижвани от AI. (с помощта на сигурни кодове за проверка), и по-рано, намаляване на разходите за отстраняване надолу по веригата. помага на анализаторите да сортират предупрежденията и да ускорят разследванията. GitHub Копилот Кодът Snyk Код AI Копилот на сигурността Тази двойственост е причината, поради която много експерти предупреждават за "въоръжена надпревара с изкуствен интелект" между екипите за сигурност и киберпрестъпниците - където скоростта, автоматизацията и адаптивността могат да решат резултатите. Тестове за безопасност и проникване Тестовете за проникване традиционно са продължителни и разчитат на квалифицирани специалисти, за да проучат уязвимостите в мрежите, приложенията и инфраструктурата. Large language models and autonomous agents can now: 
 
 
 
 Създаване на персонализирани експлоатации и изплащания по заявка. Фишинг и социални инженеринг кампании в мащаб. Изпълнявайте объркващи рутини, за да симулирате нулеви уязвимости, преди нападателите да го направят. Доказателствената точка е „Автономният AI петестър, който наскоро се изкачи на В контролираните референтни показатели, XBOW реши 88 от 104 предизвикателства само за 28 минути – задача, която отне над 40 часа за опитен човешки тестер. . XBOW # 1 GlobalProtect VPN от Пало Алто Other examples include: 
 
 
 
 AutoSploit, ранен опит за използване с помощта на AI, съчетаващ Shodan с Metasploit. Буг ловци на награди използват LLMs като copilots за разузнаване и генериране на полезни товари. MITRE ATLAS, рамка, която картографира как противниците могат да използват AI в кибератаки. Независимо от скоростта и прецизността си, инструментите като XBOW все още изискват човешки надзор.Автоматизираните резултати трябва да бъдат валидирани, приоритетирани и – критично – картографирани по отношение на регулаторния и бизнес риск.Без този слой организациите рискуват да се удавят в шум или да пренебрегнат уязвимостите, които имат най-голямо значение за съответствието и доверието. Това е формата на тестовете за проникване, която ще дойде: по-бързо, AI-засилено откритие, съчетано с експертна преценка, за да направят резултатите смислени за бизнеса под натиск от регулатори и партньори. Как генериращият ИИ може да се използва в сигурността на приложенията Веригата за доставки на софтуер е станала твърде широка и сложна за чисто ръчно тестване, а генериращият ИИ се превръща в копилот. Key applications include: 
 
 
 
 
 
 Анализ на кода и защитени копилоти на SDLC: GitHub Copilot и CodiumAI откриват несигурни модели, преди кодът да достигне до производство. Скенери за сигурност, задвижвани от AI: Snyk Code AI и ShiftLeft Scan непрекъснато сканират приложения и API, маркирайки уязвимостите в реално време. Съвети за автоматично поправяне: GitHub сега генерира искания за изтегляне, управлявани от AI, които предлагат безопасни поправки. Тестване на приложения, базирани на LLM: Появата на чатботове, задвижвани от AI, въвежда нови рискове. Нападенията с незабавно инжектиране вече са в дивата природа. OWASP отговори с първите Топ 10 за приложения за LLM през 2023 г. API фалшификация и нулеви симулации: Инструменти като Peach Fuzzer и AI-насочени агенти автономно генерират неправилно оформени входове в мащаб. Обещанието е ефективност – но предизвикателството е доверието.Патч, генериран от AI, може да реши един проблем, докато създава друг.Затова AI е най-добре разгърнат като ускорител в AppSec, като хората валидират констатациите си и гарантират, че поправките са в съответствие с рамките за съответствие като , или за медицински софтуер. ИСО 27001 Хипоа FDA MDR / IVDR Как може да се използва генериращ ИИ в съответствието и управлението За компаниите в здравните технологии, биотехнологиите или финтех технологиите, съответствието може да направи или да прекъсне растежа - и AI започва да намалява тежкото повдигане. Emerging applications include: 
 
 
 
 Автоматизирано събиране на доказателства за ISO 27001, SOC 2, HIPAA и GDPR. Картиране на уязвимостите на контролите: Свързване на констатациите на петостера директно с FDA SPDF или ISO клаузи. Създаване на доклади, готови за одит: Платформи като Vendict, Scrut и Thoropass използват изкуствения интелект, за да преведат позицията за сигурност в регулаторна документация. Това е особено мощно в геномиката или диагностиката, където стартиращите компании се сблъскват с тежка регулаторна тежест и трябва да покажат както сигурността, така и зрелостта на съответствието, за да спечелят партньорства или финансиране. Примери за промишленост Използването на изкуствения интелект в киберсигурността не е хипотетично – това се случва в различни отрасли днес: 
 
 
 
 
 
 IBM, NVIDIA, Accenture: AI копилоти за SOC операции и откриване на заплахи. Vendict, Scrut, Thoropass: Вграждане на AI в работните процеси на GRC. Правителствата и отбранителните сектори: AI Cyber Challenge (AIxCC) на DARPA използва изкуствения интелект за устойчивост. Противници: Севернокорейските APT групи и организирани измамни групи вече използват изкуствения интелект за подкуп, фишинг и дълбоки измами. Проучване на случая: През 2019 г. енергийна компания в Обединеното кралство загуби 240 000 долара, след като гласов измамник на изпълнителния директор измами служителите си с пари. Възникващи рискове от генериращия ИИ в киберсигурността AI въвежда нови вектори на атака и усилва съществуващите: 
 
 
 
 
 
 
 Фишинг и социално инженерство, задвижвани от AI: Deepfake аудио измамите растат в сложност. Бързо инжектиране и манипулиране на модела: LLM Топ 10 на OWASP подчертава бързото инжектиране като #1 риск. Предразсъдъци и поверителност: Модели за обучение по чувствителни набори от данни рискуват нарушения на съответствието съгласно GDPR. Прекомерна зависимост: третирането на ИИ като евангелие рискува слепи петна и фалшиви положителни. Халюцинации: Проучванията показват, че AI кополиотите произвеждат уязвимости или поправки. Риск от зависимост: прекъсванията на SaaS или промените на API в платформите за ИИ могат да нарушат тръбопроводи. Стратегия за най-добри практики за безопасно приемане на AI За да приложат отговорно AI в pentesting, AppSec или съответствие, организациите трябва: 
 
 
 
 
 
 Поддържайте хората в цикъла: валидирайте констатациите на ИИ преди действие. Управление на „тъмния ИИ“: предотвратяване на използването на несанкционирани инструменти за ИИ (например изтичане на данни от Samsung в ChatGPT). Изпълнявайте непрекъснати симулации: екипът на Microsoft за изкуствен интелект "Червено изкуство" тества кополиотите за рискове от съперничество. Интегрирайте в сигурни SDLC: Разполагайте с AI рецензенти и скенери директно в тръбопроводи за разработване. Прилагане на рамки за управление: Рамката за управление на риска на ИИ на NIST и Насоките за сигурност на ИИ на ENISA спомагат за осигуряване на етично и безопасно използване на ИИ. Заключения и перспективи Така че, как може генериращият ИИ да се използва в киберсигурността?Това няма да замени тестерите за проникване, инженерите по безопасността на приложенията или лидовете за съответствие.Но това ще ускори работата им, ще разшири обхвата им и ще преформулира начина, по който се намират и съобщават уязвимостите. Печелившите няма да бъдат тези, които сляпо приемат ИИ, нито тези, които го игнорират.Те ще бъдат организациите, които използват ИИ като надежден копилот - съчетавайки скорост с човешка преценка, техническа дълбочина с регулаторно привеждане в съответствие и автоматизация с отчетност. Към 2030 г. решаващият фактор няма да бъде дали компаниите използват ИИ, а колко отговорно, стратегически и безопасно ги използват – особено в регулирани сектори, където спазването и доверието не могат да бъдат договаряни. По-нататъшно четене и референции 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 ForeScout Vedere Labs H1 2025 Threat Review 
 
 Gartner – The Future of AI in Cybersecurity 
 
 CAI – Cognitive Autonomous Intelligence 
 
 BlackMamba AI Keylogger 
 
 WormGPT Underground Tool 
 
 GitHub Copilot 
 
 CodiumAI 
 
 Snyk Code AI 
 
 Microsoft Security Copilot 
 
 XBOW Autonomous Pentester 
 
 Palo Alto GlobalProtect VPN Vulnerability 
 
 AutoSploit 
 
 AI in Bug Bounties – PortSwigger 
 
 MITRE ATLAS 
 
 OWASP Top 10 for LLM Apps 
 
 ISO 27001 Standard 
 
 HIPAA Security Rule 
 
 FDA Medical Device Regulation 
 
 FDA SPDF Guidance 
 
 Vendict 
 
 Scrut 
 
 Thoropass 
 
 IBM Security AI 
 
 NVIDIA AI for Security 
 
 Accenture Security 
 
 DARPA AIxCC 
 
 North Korean APT Attacks – Mandiant 
 
 WSJ – Deepfake CEO Fraud Case 
 
 FT – Deepfake Audio Scams 
 
 GDPR Text 
 
 Samsung ChatGPT Data Leak – The Register 
 
 Microsoft – AI Red Teaming 
 
 NIST AI Risk Management Framework 
 
 ENISA AI Security Guidelines

Visit Sekurno.com

Това аудио е създадено на оригиналния език на историята!

Твърде дълго; Чета

Download free Tech Leaders Productivity Report!

Как генериращият АИ може да се използва в киберсигурността

About Author

КОМЕНТАРИ

ЗАКАЧВАЙТЕ ЕТИКЕТИ

ТАЗИ СТАТИЯ Е ПРЕДСТАВЕНА В

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps