До ускорения ИИ инсайдерский риск всегда был сосредоточен на человеческих намерениях.Команды безопасности следили за высокорисковыми сотрудниками, которые были склонны загружать файлы, прежде чем покинуть компанию, или неосторожными сотрудниками, которые занимались бездумным поведением (например, нажатием на фишинговую ссылку). ИИ коренным образом изменил эту парадигму.Риск больше не ограничивается злонамеренными сотрудниками, но также теми, кто хочет облегчить свою работу.Используя широко доступные инструменты ИИ и платформы для работы, они могут случайно делиться конфиденциальными данными за пределами своей безопасной бизнес-среды. Данные о повышенных рисках инсайдеров, основанные на данных Proofpoint «Две трети CISO испытали значительную потерю данных в прошлом году, причем инсайдерские инциденты возглавляют список причин». Голос отчета CISO Голос отчета CISO Движение данных также резко изменилось.Вместо того, чтобы перемещаться вертикально по стандартным каналам одобрения, данные теперь перемещаются горизонтально по командам, инструментам и помощникам ИИ. В США обеспокоены утечкой данных клиентов через публичные генеративные платформы ИИ. 80 процентов CISO 80 процентов CISO Модель затем собирает данные из внутренних систем (например, CRM, ERP) и нескольких внешних источников (например, веб-сайтов, социальных сетей), а затем передает комбинированные результаты всем членам платформы сотрудничества пользователя (Slack). AI как слой движения данных ИИ коренным образом изменил жизненный цикл данных внутри организаций.Традиционно были ясные манипуляции, где сотрудник загружал файл, редактировал его и отправил его коллеге. Рабочие процессы ИИ не одинаковы. Рабочий задает вопрос. Ассистент ИИ извлекает информацию из многих источников, чтобы ответить на вопрос. Он сжимает документы, изменяет формат данных и производит выход, который можно поделиться на платформах сотрудничества. Каждый шаг происходит за считанные секунды с очень малым человеческим надзором. «Поскольку организации принимают автономные агенты, которые могут просматривать, писать код и действовать в нескольких системах, автономия становится основным мультипликатором риска», — говорит Proofpoint. . Сопутствующие соавторские статьи Сопутствующие соавторские статьи Агенты ИИ и плагины могут быть установлены в более чем одной системе.Они собирают данные из вашего CRM, сравнивают их с архивами электронной почты, добавляют их к информации из платформы сотрудничества и отправляют результаты аналитическому инструменту, который не является частью вашей компании. Расширение Insider: Intent vs. Convenience У вас были плохие игроки в компании, которые крали данные, и беззаботные работники, которые не обращали внимания на обучение безопасности. Сотрудники не пытаются причинить вред. Они пытаются работать более эффективно и соответствовать завтрашним срокам. Вставить клиентский контракт в ChatGPT и запросить резюме быстрее, чем вручную читать через 40 страниц. Загрузка финансовой таблицы в помощника ИИ генерирует диаграммы за секунды вместо часов. Большинство работников до сих пор не знают, где находятся линии для политики.Компании медленно определяют, что работники данных могут дать инструментам ИИ. или что происходит с данными после того, как они войдут в систему ИИ.Когда правила не ясны, люди делают то, что им нужно сделать, чтобы сделать свою работу. Приемлемое использование AI на рабочем месте Приемлемое использование AI на рабочем месте Платформы сотрудничества как AI Gateways Slack, Teams, Gmail, Google Workspace и Microsoft 365 являются «первым шагом» для данных, поскольку они покидают помещения вашей компании и поглощаются сегодняшними инструментами ИИ. Разрешения OAuth и разъемы API позволяют подключиться. Сотрудник устанавливает плагин производительности, который утверждает, что он может обобщать разговоры Slack или помочь им писать ответы на электронные письма. Приложение требует обширного доступа к данным рабочего пространства. Многие люди нажимают «позволить», не зная, что они позволяют. У CISO есть значительные пробелы в их способности видеть, что происходит в этих рабочих процессах.Они часто не могут ответить на простые вопросы о том, какие инструменты ИИ используют сотрудники для работы вместе.Они не имеют никакой телеметрии для отслеживания того, какие данные проходят через эти интеграции.Они не знают, кто отправляет частную информацию в системы ИИ или куда идут выходы после того, как они генерируются. Почему традиционные контрольные системы не чистят карты Наследственные рамки безопасности были построены для различных, более предсказуемых моделей угроз.Таким образом, они имеют значительные недостатки в том, как ИИ фактически перемещает данные по современным организациям. 
 
 
 
 Static vs. dynamic: Традиционные DLP и CASB-контроли опираются на статическое управление, которое основывается на заранее определенных правилах относительно того, куда можно отправлять данные. AI внедряет текущие и многоступенчатые рабочие процессы, где данные потребляются и перераспределяются всего за несколько секунд. Человек против автоматизации: В последние годы инсайдерское поведение требовало, чтобы люди принимали решения на большинстве этапов.ИИ частично автоматизирует поглощение, трансформацию и перераспределение данных через агентов и / или помощников.Рамка IAM обеспечивает доступ к пользователям, но не предназначена для контроля того, что автоматизированные рабочие процессы ИИ могут запросить от имени пользователя. Предсказуемые и возникающие: когда рабочие процессы следуют предсказуемым шаблонам, команды безопасности обычно могут предварительно классифицировать вероятные пути воздействия. рабочие процессы ИИ возникают; сотрудник может поглощать данные из пяти различных систем таким образом, что никто не ожидал. Что CISOs спрашивают (или будут спрашивать вскоре) Вопросы, которые задают лидеры по безопасности, указывают на то, куда движется рынок: это не просто теоретические вопросы, это реальные вызовы, требующие стратегического управления. 
 
 
 
 
 
 Какие инструменты ИИ санкционированы против тени?Чтобы построить успешную структуру управления, вам нужно понять все приложения ИИ, которые в настоящее время используются. Компании должны четко понимать, могут ли системы ИИ обрабатывать записи клиентов, финансовые данные, исходный код или данные, которые регулируются правилами. Куда движется контент, созданный ИИ, впоследствии? ИИ делает резюме или отчеты, которые делятся с другими командами или внешними партнерами. Как мы проверяем, классифицируем и записываем взаимодействия с ИИ?Без возможностей регистрации, команды безопасности не могут расследовать инциденты или иметь записи, готовые для регуляторов по соблюдению требований, когда они начинают задавать вопросы. Пояснение того, кто отвечает за надзор за управлением (например, CISO, Data Teams, Legal, или Compliance) помогает избежать пробелов, где никто не несет ответственности. Индустриальный прогноз на инсайдерский риск Инсайдерский риск больше не будет просто проблемой, специфичной для людей; он также будет включать изучение рабочих процессов ИИ и моделей движения данных.Аналитика поведения пользователей сама по себе не поможет командам безопасности справиться с этим.Автоматизированные агенты, разъемы API и интеграции с платформами сотрудничества теперь являются частью модели угроз. «Организации перестанут рассматривать человеческие сигналы, идентификационные данные и технические события как отдельные потоки», — прогнозирует Proofpoint. — «Следующая эволюция управления инсайдерскими рисками зависит от соединения этих областей, потому что истинный риск редко появляется в одном измерении». По этой причине принятие ИИ потребует от всей компании совместной ответственности.Когда речь идет о управлении управлением данными, безопасностью приложений, правовой политикой и мандатами на соответствие, CISOs не могут самостоятельно решать эту проблему.Ожидайте совместных рамок подотчетности, в которых главные сотрудники по обработке данных и руководители безопасности работают вместе над управлением, специфическим для ИИ, а не работают в изолированных подразделениях. Takeaway ИИ не создает новых инсайдеров. Он меняет то, как люди, работающие с данными, делятся ими каждый день.Вместо того, чтобы спрашивать о намерениях, фокус сместился на то, чтобы сделать эти инструменты более видимыми и установить правила, которые соответствуют тому, как сотрудники на самом деле используют их. 
 
 Эта история была распространена как релиз Джоном Стояном в рамках программы HackerNoon Business Blogging Program. Эта история была распространена как релиз Джоном Стояном в рамках программы HackerNoon Business Blogging Program.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Этот звук создан на языке оригинала истории!

Новый инсайдерский риск: ИИ меняет способ перемещения данных внутри предприятия

About Author

КОММЕНТАРИИ

БИРКИ

ЭТА СТАТЬЯ БЫЛА ПРЕДСТАВЛЕНА В

Related Stories

Цифровые кочевники слушают: что нужно знать о новой визе DTV в Таиланде

Модель Bitcoin UTXO, обеспечивающая работу уникальной экосистемы

Повысьте свою производительность с помощью этих 18 инструментов разработчика 🚀🔥

Полное руководство по успешной миграции в облако: стратегии и лучшие практики

Цифровые кочевники слушают: что нужно знать о новой визе DTV в Таиланде

Модель Bitcoin UTXO, обеспечивающая работу уникальной экосистемы

Повысьте свою производительность с помощью этих 18 инструментов разработчика 🚀🔥

Полное руководство по успешной миграции в облако: стратегии и лучшие практики

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps