Bezpečnostní týmy monitorovaly vysoce rizikové zaměstnance, kteří byli náchylní ke stahování souborů před opuštěním společnosti, nebo nedbalé zaměstnance, kteří se zapojili do bezohledného chování (např. kliknutím na phishingový odkaz). Riziko již není omezeno na škodlivé zaměstnance, ale také na ty, kteří chtějí usnadnit svou práci.Použitím široce dostupných nástrojů a platforem pro práci mohou neúmyslně sdílet citlivá data mimo své bezpečné podnikatelské prostředí. Údaje o zvýšených rizicích insiderů.Na základě průzkumu společnosti Proofpoint Dvě třetiny CISO zažily v uplynulém roce významnou ztrátu dat, přičemž insider-driven incidenty vedou seznam příčin. Hlas zprávy CISO Hlas zprávy CISO Místo pohybu vertikálně prostřednictvím standardních schvalovacích kanálů se data nyní pohybují horizontálně přes týmy, nástroje a asistenty umělé inteligence. V USA jsou znepokojeni únikem dat zákazníků prostřednictvím veřejných generativních AI platforem. 80 % CISO 80 % CISO Model pak shromažďuje data z interních systémů (např. CRM, ERP) a více externích zdrojů (např. webové stránky, sociální média), poté předává kombinované výsledky všem členům uživatelovy platformy pro spolupráci (Slack). AI jako data movement layer Umělá inteligence zásadně změnila životní cyklus dat uvnitř organizací. Tradičně existovaly jasné handoffs, kde zaměstnanec stáhl soubor, upravil ho a poslal ho spolupracovníkovi. Pracovní postupy umělé inteligence nejsou stejné. Pracovník položí otázku. Asistent umělé inteligence čerpá informace z mnoha zdrojů, aby odpověděl na otázku. Skládá dokumenty, mění formát dat a vytváří výstup, který lze sdílet na platformách spolupráce. Každý krok se děje během několika sekund s velmi malým lidským dohledem. „Vzhledem k tomu, že organizace přijímají autonomní agenty, které mohou procházet, psát kód a působit v několika systémech, se autonomie stává hlavním multiplikátorem rizika,“ uvádí Proofpoint. . Související spoluautorské příspěvky Související spoluautorské příspěvky Tato „multi-hopová“ činnost ztěžuje ochranu.Agenty a pluginy umělé inteligence mohou být nainstalovány do více než jednoho systému. Shromažďují data z vašeho CRM, porovnávají je s archivy e-mailů, přidávají je k informacím z platformy pro spolupráci a odesílají výsledky analytickému nástroji, který není součástí vaší společnosti. Rozšíření Insider: Úmysl vs. Pohodlí Měli jste špatné hráče uvnitř společnosti, kteří kradli data, a neopatrní pracovníci, kteří nevěnovali pozornost bezpečnostnímu školení. Zaměstnanci se nepokoušejí způsobit škodu. Snaží se pracovat efektivněji a splnit zítřejší lhůty. Vložení smlouvy se zákazníkem do ChatGPT a požádání o shrnutí je rychlejší než ruční čtení přes 40 stránek. Nahrávat finanční tabulku na asistenta AI vytváří grafy v sekundách místo hodin. Každé rozhodnutí upřednostňuje rychlost nad protokolem. Většina pracovníků stále neví, kde jsou linie pro politiky.Společnosti jsou pomalé definovat, co mohou pracovníci dat dát nástrojům AI. nebo co se stane s daty, jakmile jsou zadány do systému AI.Když pravidla nejsou jasná, lidé dělají to, co potřebují udělat, aby svou práci dokončili. Přijatelné využití na pracovišti Přijatelné využití na pracovišti Platformy pro spolupráci jako AI Gateways Slack, Teams, Gmail, Google Workspace a Microsoft 365 jsou „prvním skokem“ pro data, protože opouštějí prostor vaší společnosti a jsou absorbovány dnešními nástroji AI. Povolení OAuth a konektory API umožňují připojení. Zaměstnanec nainstaluje doplněk produktivity, který tvrdí, že shrnuje konverzace Slack nebo jim pomáhá psát e-mailové odpovědi. Aplikace požaduje rozsáhlý přístup k datům pracovního prostoru. Mnoho lidí klikne na "umožnit", aniž by vědělo, co povolují. CISO mají významné mezery ve své schopnosti vidět, co se děje v těchto pracovních postupech. Často nemohou odpovědět na jednoduché otázky o tom, jaké nástroje AI zaměstnanci používají ke spolupráci. Nemají žádnou telemetrii pro sledování toho, jaké údaje procházejí těmito integracemi. Nevědí, kdo posílá soukromé informace do systémů AI nebo kam odcházejí výstupy poté, co jsou generovány. Proč tradiční kontroly neumí mapovat čistě Legacy bezpečnostní rámce byly postaveny pro různé, více předvídatelné modely hrozeb. jako takový, mají významné nevýhody při řešení toho, jak AI skutečně pohybuje data v moderních organizacích. 
 
 
 
 Statické vs. dynamické: Tradiční ovládací prvky DLP a CASB se spoléhají na statickou správu, která je založena na předdefinovaných pravidlech o tom, kam mohou být data odesílána. AI zavádí plynulé a vícestupňové pracovní postupy, kde jsou data spotřebována a přerozdělována během několika sekund. Rychlost a variabilita pracovních postupů AI činí statické politiky irelevantními a nepraktickými. Člověk vs. automatizovaný: V posledních letech chování insiderů vyžadovalo, aby lidé činili rozhodnutí ve většině kroků. AI částečně automatizuje požití, transformaci a redistribuci dat prostřednictvím agentů a / nebo asistentů. rámce IAM poskytují přístup uživatelům, ale nejsou navrženy tak, aby řídily, co automatizované pracovní postupy AI mohou požadovat jménem uživatele. Předvídatelné vs. vznikající: Když pracovní postupy sledují předvídatelné vzorce, bezpečnostní týmy mohou obvykle předklasifikovat pravděpodobné cesty expozice. Pracovní postupy AI jsou vznikající; zaměstnanec může vstřebávat data z pěti různých systémů způsobem, který nikdo nečekal. Co CISO požadují (nebo se brzy zeptají) Otázky, které bezpečnostní lídři ptají na pomoc, ukazují, kam trh směřuje.Tyto otázky nejsou jen teoretické; jsou to reálné výzvy, které vyžadují strategické řízení. 
 
 
 
 
 
 Které nástroje umělé inteligence jsou sankcionovány versus stín?Abyste vytvořili úspěšný rámec správy, musíte pochopit všechny aplikace umělé inteligence, které jsou v současné době používány. Společnosti potřebují být jasné o tom, zda systémy umělé inteligence mohou zpracovávat záznamy zákazníků, finanční údaje, zdrojový kód nebo data, která jsou předmětem pravidel. Kde poté cestuje obsah vytvořený AI? AI vytváří shrnutí nebo zprávy, které jsou sdíleny s ostatními týmy nebo externími partnery. Jak auditujeme, klasifikujeme a zaznamenáváme interakce s umělou inteligencí?Bez funkcí logování nemohou bezpečnostní týmy vyšetřovat incidenty nebo mít záznamy připravené pro regulátory dodržování předpisů, když začnou klást otázky. Ujasnění toho, kdo je zodpovědný za dohled nad správou (např. CISO, datové týmy, právní nebo dodržování předpisů) pomáhá vyhnout se mezerám, kde nikdo není zodpovědný. Průmyslové výhledy na riziko insiderů Insider riziko již nebude jen problém specifický pro lidi; bude také zahrnovat studium pracovních postupů umělé inteligence a vzorců pohybu dat. Analýza chování uživatelů sama o sobě tím bezpečnostním týmům nepomůže. „Organizace přestanou zacházet s lidskými signály, identitními údaji a technickými událostmi jako s oddělenými proudy,“ předpovídá Proofpoint. „Další vývoj řízení rizik uvnitř závisí na propojení těchto oblastí, protože skutečné riziko se zřídka objevuje v jediném rozměru.“ Z tohoto důvodu přijetí umělé inteligence bude vyžadovat, aby celá společnost sdílela odpovědnost. Pokud jde o správu správy dat, bezpečnost aplikací, právní politiky a mandáty dodržování předpisů, CISO se s tímto problémem nemohou vypořádat sami. Takeaway AI nevytváří nové insidery. mění způsob, jakým lidé, kteří pracují s daty, sdílejí data každý den. Místo toho, aby se ptali na záměr, zaměření se posunulo k tomu, aby tyto nástroje byly viditelnější a aby stanovily pravidla, která odpovídají tomu, jak je zaměstnanci skutečně používají. 
 
 Tento příběh byl distribuován jako vydání Jon Stojan v rámci HackerNoon Business Blogging Program. Tento příběh byl distribuován jako vydání Jon Stojan v rámci HackerNoon Business Blogging Program.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Tento zvuk je produkován v původním jazyce příběhu!

Nové riziko insiderů: AI mění způsob, jakým se data pohybují uvnitř podniku

About Author

KOMENTÁŘE

ZAVĚŠIT ZNAČKY

TENTO ČLÁNEK BYL PŘEDSTAVEN V

Related Stories

Coinshift Launches csUSDL, Announces Strategic Partnerships

Coinshift Launches csUSDL, Announces Strategic Partnerships

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps