A biztonsági csapatok megfigyelték a magas kockázatú alkalmazottakat, akik hajlamosak voltak letölteni a fájlokat, mielőtt elhagynák a vállalatot, vagy a gondatlan munkavállalókat, akik gondatlan magatartást végeztek (például egy phishing linkre kattintva). Az AI alapvetően megváltoztatta ezt a paradigmát.A kockázat már nem korlátozódik a rosszindulatú alkalmazottakra, hanem azokra is, akik munkájukat megkönnyíteni szeretnék.A széles körben elérhető AI-eszközök és platformok használatával a munkavégzéshez véletlenül megoszthatják az érzékeny adatokat biztonságos üzleti környezetükön kívül. A megnövekedett belső kockázatokra vonatkozó adatok a Proofpoint adatai alapján A CISO-k kétharmada tapasztalt jelentős adatvesztést az elmúlt évben, a bennfentes incidensek pedig az okok listájának tetején álltak. Voice of the CISO Report A CISO jelentés hangja Az adatmozgás is drámaian megváltozott. ahelyett, hogy függőlegesen mozogna a szabványos jóváhagyási csatornákon keresztül, az adatok mostanra vízszintesen mozognak a csapatokon, eszközökön és AI asszisztenseken keresztül. Az Egyesült Államokban aggódnak az ügyfelek adatainak a nyilvános generatív AI platformokon keresztül történő szivárgása miatt. A CISO 80 százaléka A CISO 80 százaléka A modell ezután összegyűjti a belső rendszerekből (pl. CRM, ERP) és több külső forrásból (pl. weboldalak, közösségi média), majd továbbítja az összesített eredményt a felhasználó együttműködési platformjának (Slack) valamennyi tagjának. AI mint adatmozgási réteg Az AI alapvetően megváltoztatta a szervezeteken belüli adatélettartamot.Hagyományosan voltak egyértelmű kézikönyvek, ahol egy alkalmazott letöltött egy fájlt, szerkesztette, és elküldte azt egy munkatársnak. Az AI munkafolyamatok nem azonosak. Egy munkavállaló kérdéseket tesz fel. Az AI asszisztens sok forrásból származó információt húz a kérdés megválaszolásához. Dokumentumokat tömörít, megváltoztatja az adatformátumot, és olyan kimenetet hoz létre, amelyet együttműködési platformokon lehet megosztani. "Mivel a szervezetek olyan autonóm ügynököket fogadnak el, amelyek böngészhetnek, kódot írhatnak és több rendszerben is cselekedhetnek, az autonómia jelentős kockázati tényezővé válik" - mondja a Proofpoint szakemberei. . Kapcsolódó társszerző poszt Kapcsolódó társszerző poszt Ez a „multi-hop” tevékenység megnehezíti a védelmet. AI-ügynökök és bővítmények telepíthetők egynél több rendszerbe. Ezek összegyűjtik az adatokat a CRM-ből, összehasonlítják azokat az e-mail archívumokkal, hozzáadják azokat egy együttműködési platform információihoz, és elküldik az eredményeket egy olyan elemzőeszközhöz, amely nem része a vállalatnak. Az Insider kiterjesztése: szándék vs. kényelem Voltak rossz szereplők a vállalaton belül, akik ellopták az adatokat, és gondatlan munkavállalók, akik nem figyeltek a biztonsági képzésre. Az alkalmazottak nem próbálnak kárt okozni. Megpróbálnak hatékonyabban dolgozni, és megfelelnek a holnapi határidőknek. Ügyfélszerződés beillesztése a ChatGPT-be, és összefoglaló kérése gyorsabb, mint a 40 oldal kézi olvasása. Pénzügyi táblázat feltöltése egy AI asszisztenshez másodpercek helyett órák alatt grafikonokat hoz létre. A legtöbb munkavállaló még mindig nem tudja, hol vannak a vonalak a politikák számára.A vállalatok lassan határozzák meg, hogy mit adhatnak az adatmunkások az AI-eszközöknek. Vagy mi történik az adatokkal, ha belépnek egy AI-rendszerbe.Ha a szabályok nem egyértelműek, az emberek megtesznek mindent, amire szükségük van a munkájuk elvégzéséhez. Elfogadható használata a munkahelyen Elfogadható használata a munkahelyen Együttműködési platformok, mint AI Gateways A Slack, a Teams, a Gmail, a Google Workspace és a Microsoft 365 a „első ugrás” az adatok számára, mivel elhagyja a vállalat létesítményeit, és a mai AI-eszközökbe kerül. Az OAuth-engedélyek és az API-csatlakozók lehetővé teszik a kapcsolatot. Egy alkalmazott telepít egy termelékenységi bővítményt, amely azt állítja, hogy összefoglalja a Slack-beszélgetéseket, vagy segít nekik megírni az e-mail válaszokat. Az alkalmazás kiterjedt hozzáférést igényel a munkaterületi adatokhoz. Sok ember kattintson a „engedélyezésre”, anélkül, hogy tudná, mit engedélyez. A CISO-k jelentős hiányosságokkal rendelkeznek abban a képességükben, hogy lássák, mi történik ezekben a munkafolyamatokban.Gyakran nem tudnak válaszolni az egyszerű kérdésekre, hogy mely AI-eszközöket használják az alkalmazottak együtt dolgozni.Nincs telemetria, hogy nyomon kövessék, hogy milyen adatok mennek át ezeken az integrációkon.Nem tudják, ki küldi a privát információkat az AI-rendszerekhez, vagy hol mennek a kimenetek, miután létrehozták őket. Miért nem térképeznek tisztán a hagyományos ellenőrzések Az öröklött biztonsági keretrendszereket különböző, kiszámíthatóbb fenyegetési modellekhez építették, így jelentős hátrányokkal rendelkeznek abban, hogy miként mozgatja az AI az adatokat a modern szervezetekben. 
 
 
 
 Statikus vs. dinamikus: A hagyományos DLP és CASB vezérlők statikus irányításra támaszkodnak, amely előre meghatározott szabályokon alapul az adatok elküldésére vonatkozóan. AI bevezeti a folyékony és többlépcsős munkafolyamatokat, ahol az adatokat mind felhasználják, mind másodpercek alatt újraelosztják. Humán vs. automatizált: Az utóbbi években a bennfentes viselkedés megkövetelte, hogy az emberek döntéseket hozzanak a legtöbb lépésben. AI részben automatizálja az adatok bevitelét, átalakítását és újraelosztását ügynökökön és / vagy asszisztenseken keresztül. IAM keretrendszerek hozzáférést biztosítanak a felhasználók számára, de nem úgy tervezték, hogy ellenőrizzék, hogy az automatizált AI munkafolyamatok mit kérhetnek a felhasználó nevében. Előrelátható vs. feltörekvő: Amikor a munkafolyamatok kiszámítható mintákat követnek, a biztonsági csapatok általában előre osztályozhatják a valószínűsíthető expozíciós útvonalakat. Mit kérnek a CISO-k (vagy hamarosan kérni fognak) Ezek nem csak elméleti kérdések, hanem valós kihívások, amelyek stratégiai irányítást igényelnek. 
 
 
 
 
 
 Milyen AI-eszközöket szankcionálnak az árnyék ellen?A sikeres irányítási keretrendszer kiépítéséhez meg kell értenie az összes jelenleg használt AI-alkalmazást. A vállalatoknak tisztában kell lenniük azzal, hogy az AI-rendszerek képesek-e ügyfélrekordokat, pénzügyi adatokat, forráskódot vagy szabályok hatálya alá tartozó adatokat kezelni. Az AI összefoglalókat vagy jelentéseket készít, amelyeket megosztanak más csapatokkal vagy külső partnerekkel. Hogyan ellenőrizzük, osztályozzuk és naplózzuk az AI-interakciókat?A naplózási képességek nélkül a biztonsági csapatok nem tudják kivizsgálni az incidenseket, és a megfelelőségi szabályozók számára nem állnak rendelkezésre nyilvántartások, amikor kérdéseket tesznek fel. Ha világossá tesszük, hogy ki felelős a kormányzás felügyeletéért (például a CISO, az adatcsapatok, a jogi vagy a megfelelés) segít elkerülni azokat a hiányosságokat, amelyekben senki sem felelős. Az iparági kilátások a bennfentes kockázatokról A bennfentes kockázatok többé már nem csak az emberekre jellemző problémák lesznek, hanem magukban foglalják majd az AI munkafolyamatok és az adatmozgási minták tanulmányozását is.A felhasználói viselkedés elemzése önmagában nem segít a biztonsági csapatoknak megbirkózni ezzel. „A szervezetek nem fogják többé külön áramlatként kezelni az emberi jeleket, az identitási adatokat és a technikai eseményeket” – mondja Proofpoint. „A belső kockázatkezelés következő fejlődése attól függ, hogy összekapcsolják ezeket a területeket, mert a valódi kockázat ritkán jelenik meg egyetlen dimenzióban.” Ezért az AI elfogadása megköveteli, hogy az egész vállalat megosszák a felelősséget. Amikor az adatirányítás, az alkalmazásbiztonság, a jogi politika és a megfelelési megbízások kezeléséről van szó, a CISO-k önmagukban nem tudják kezelni ezt a problémát. Elvárják, hogy közös elszámoltathatósági keretrendszereket lássanak, amelyekben a főadat-tisztviselők és a biztonsági vezetők együttműködnek az AI-specifikus irányításon, nem pedig elszigetelt egységekben működnek. Veszprém Az AI nem hoz létre új bennfenteseket. Megváltoztatja, hogy az adatokkal dolgozó emberek hogyan osztják meg őket minden nap. Ahelyett, hogy a szándékról kérdeznének, a hangsúlyt ezen eszközök láthatóságának növelésére és a szabályok beállítására helyezték el, amelyek illeszkednek ahhoz, hogy az alkalmazottak ténylegesen hogyan használják őket. 
 
 Ezt a történetet Jon Stojan adta ki a HackerNoon Business Blogging Program keretében. Ezt a történetet Jon Stojan adta ki a HackerNoon Business Blogging Program keretében.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Ez a hanganyag a történet eredeti nyelvén készült!

Az új bennfentes kockázat: az AI megváltoztatja, hogyan mozognak az adatok a vállalkozáson belül

About Author

HOZZÁSZÓLÁSOK

HANG TAGOK

EZT A CIKKET BEMUTATTA

Related Stories

How Emoji Credibility Indicators Add Context to HackerNoon Stories

The Little Shop at Fishbourne

Találkozz Hubstaff: HackerNoon a hét társasága

THE LAST DAY OF NEW YORK

How Emoji Credibility Indicators Add Context to HackerNoon Stories

The Little Shop at Fishbourne

Találkozz Hubstaff: HackerNoon a hét társasága

THE LAST DAY OF NEW YORK

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps