Echipele de securitate au monitorizat angajații cu risc ridicat care erau predispuși la descărcarea fișierelor înainte de a părăsi compania sau angajații neglijenți care s-au angajat în comportamente fără grijă (de exemplu, făcând clic pe un link de phishing). AI a schimbat fundamental această paradigmă.Riscul nu mai este limitat la angajații rău intenționați, ci și la cei care doresc să-și facă munca mai ușoară.Prin utilizarea instrumentelor și platformelor AI disponibile pe scară largă pentru muncă, aceștia pot partaja în mod involuntar date sensibile în afara mediului lor de afaceri securizat. Datele privind riscurile crescute ale insiderului. pe baza datelor Proofpoint "Două treimi dintre CISO-uri au suferit pierderi semnificative de date în ultimul an, cu incidente motivate de insider care se află în fruntea listei de cauze." Vocea raportului CISO Vocea raportului CISO De asemenea, mișcarea datelor s-a schimbat dramatic.În loc să se miște vertical prin canalele de aprobare standard, datele se mișcă acum orizontal prin echipe, instrumente și asistenți AI.În schimb, liderii de securitate se luptă să obțină vizibilitate în activitatea lor.Date de la Proofpoint arată că Statele Unite sunt îngrijorate de scurgerea datelor clienților prin intermediul platformelor AI generative publice. 80% din CISO 80% din CISO Modelul va colecta ulterior date din sisteme interne (de exemplu, CRM, ERP) și din mai multe surse externe (de exemplu, site-uri web, social media), apoi va transmite rezultatele combinate tuturor membrilor platformei de colaborare a utilizatorului (Slack). AI ca strat de mișcare a datelor AI a modificat fundamental ciclul de viață al datelor în cadrul organizațiilor. În mod tradițional, au existat handoffs clare, unde un angajat a descărcat un fișier, l-a editat și l-a trimis unui coleg. Fluxurile de lucru ale AI nu sunt aceleași. Un lucrător pune o întrebare. Asistentul AI trage informații din mai multe surse pentru a răspunde la întrebare. Condensează documentele, schimbă formatul datelor și produce o ieșire care poate fi împărtășită pe platformele de colaborare. Fiecare pas are loc în câteva secunde cu foarte puțină supraveghere umană. „Pe măsură ce organizațiile adoptă agenți autonomi care pot naviga, scrie cod și acționează pe mai multe sisteme, autonomia devine un mare multiplicator de riscuri”, afirmă profesioniștii Proofpoint într-un comunicat. . Articole legate de co-autor Articole legate de co-autor Această activitate „multi-hop” face mai dificilă protecția. agenții AI și plugin-urile pot fi instalate în mai multe sisteme. Acestea colectează date din CRM, le compară cu arhivele de e-mail, le adaugă informațiilor dintr-o platformă de colaborare și trimit rezultatele unui instrument de analiză care nu face parte din compania dvs. Asta înseamnă patru sau cinci mișcări de date într-un singur flux de lucru automatizat. Expansiunea Insider: Intent vs. Convenience Ați avut actori răi în cadrul companiei care furau date și lucrători neatenți care nu au acordat atenție instruirii în materie de securitate. Angajații nu încearcă să facă rău. Ei încearcă să lucreze mai eficient și să îndeplinească termenele-limită de mâine. Așezarea unui contract de client în ChatGPT și solicitarea unui rezumat este mai rapidă decât citirea manuală a 40 de pagini. Încărcarea unui tabel financiar la un asistent AI generează diagrame în câteva secunde în loc de ore. Majoritatea lucrătorilor încă nu știu unde sunt liniile pentru politici. Companiile sunt lente în a defini ce pot oferi lucrătorii de date instrumentelor AI. sau ce se întâmplă cu datele odată ce acestea sunt introduse într-un sistem AI. Când regulile nu sunt clare, oamenii fac ceea ce trebuie să facă pentru a-și face treaba. utilizarea acceptabilă a AI la locul de muncă utilizarea acceptabilă a AI la locul de muncă Platformele de colaborare ca gateway-uri AI Platformele de colaborare sunt primul loc în care majoritatea datelor se deplasează în sistemele AI. Slack, Teams, Gmail, Google Workspace și Microsoft 365 sunt toate "primele salturi" pentru date pe măsură ce părăsesc sediul companiei dvs. și sunt ingerate de instrumentele AI de astăzi. Permisiunile OAuth și conectorii API permit conexiunea. Un angajat instalează un plugin de productivitate care pretinde că rezumă conversațiile Slack sau îi ajută să scrie răspunsuri de e-mail. Aplicația solicită acces extins la datele din spațiul de lucru. Mulți oameni fac clic pe "permit" fără să știe ce permit. Acum, un serviciu AI terț poate citi mesaje, fișiere partajate și informații de calendar în valoare de luni. CISO au lacune semnificative în capacitatea lor de a vedea ce se întâmplă în aceste fluxuri de lucru. Adesea nu pot răspunde la întrebări simple despre ce instrumente AI folosesc angajații pentru a lucra împreună. Nu au nici o telemetrie pentru a urmări ce date trec prin aceste integrări. De ce controalele tradiționale nu cartografiază în mod curat Cadrele de securitate moștenite au fost construite pentru modele de amenințări diferite, mai previzibile. ca atare, acestea au dezavantaje semnificative în abordarea modului în care AI se deplasează de fapt date în cadrul organizațiilor moderne. 
 
 
 
 Static vs. dinamic: Controlele tradiționale DLP și CASB se bazează pe guvernanța statică, care se bazează pe reguli predefinite cu privire la locul unde pot fi trimise datele. AI introduce fluide și fluxuri de lucru în mai multe etape, unde datele sunt atât consumate, cât și redistribuite în doar câteva secunde. Human vs. automatizat: În ultimii ani, comportamentul insider a necesitat ca oamenii să ia decizii în majoritatea etapelor. AI automatizează parțial ingestia, transformarea și redistribuirea datelor prin intermediul agenților și / sau asistenților. cadrele IAM oferă acces utilizatorilor, dar nu sunt concepute pentru a controla ceea ce fluxurile de lucru automatizate AI pot solicita în numele unui utilizator. Predictibil vs. emergent: Atunci când fluxurile de lucru urmează modele previzibile, echipele de securitate pot pre-clasifica posibilele căi de expunere. fluxurile de lucru AI sunt emergente; un angajat poate injecta date din cinci sisteme diferite într-un mod pe care nimeni nu l-a anticipat. Ce cer CISO (sau vor întreba în curând) Întrebările adresate de liderii de securitate indică în ce direcție se îndreaptă piața.Acestea nu sunt doar întrebări teoretice; acestea sunt provocări din lumea reală care necesită guvernanță strategică. 
 
 
 
 
 
 Pentru a construi un cadru de guvernanță de succes, trebuie să înțelegeți toate aplicațiile AI utilizate în prezent. Companiile trebuie să fie clare cu privire la faptul dacă sistemele AI pot gestiona înregistrările clienților, datele financiare, codul sursă sau datele care sunt supuse regulilor. Unde se deplasează conținutul creat de AI după aceea? AI face rezumate sau rapoarte care sunt partajate cu alte echipe sau parteneri externi. Cum audităm, clasificăm și înregistrăm interacțiunile AI?Fără capacitățile de înregistrare, echipele de securitate nu pot investiga incidentele sau nu au înregistrări pregătite pentru autoritățile de reglementare a conformității atunci când încep să pună întrebări. Făcând clar cine este responsabil pentru supravegherea guvernanței (de exemplu, CISO, echipele de date, legale sau de conformitate) ajută la evitarea lacunelor în care nimeni nu este ținut responsabil. Perspectivele industriei asupra riscului de insider Riscul de insider nu va mai fi doar o problemă specifică oamenilor; va include, de asemenea, studierea fluxurilor de lucru AI și a tiparelor de mișcare a datelor. „Organizațiile vor înceta să mai trateze semnale umane, date de identitate și evenimente tehnice ca fluxuri separate”, prezice Proofpoint. „Următoarea evoluție a managementului riscurilor de tip insider depinde de conectarea acestor domenii, deoarece riscul real rar apare într-o singură dimensiune.” Din acest motiv, adoptarea AI va necesita ca întreaga companie să-și împartă responsabilitățile. Când vine vorba de gestionarea guvernanței datelor, a securității aplicațiilor, a politicilor legale și a mandatelor de conformitate, CISO nu se pot ocupa de această problemă pe cont propriu. Takeaway Inteligența artificială nu creează noi insiders. schimbă modul în care oamenii care lucrează cu date o împărtășesc în fiecare zi.În loc să întrebe despre intenție, accentul s-a schimbat pentru a face aceste instrumente mai vizibile și pentru a stabili reguli care să se potrivească cu modul în care angajații le folosesc de fapt. 
 
 Această poveste a fost distribuită ca o lansare de Jon Stojan în cadrul HackerNoon's Business Blogging Program. Această poveste a fost distribuită ca o lansare de Jon Stojan în cadrul HackerNoon's Business Blogging Program.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Acest audio este produs în limba originală a poveștii!

Noul risc insider: AI schimbă modul în care datele se mișcă în interiorul întreprinderii

About Author

COMENTARII

Etichete suspendate

ACEST ARTICOL A FOST PREZENTAT IN

Related Stories

The Data Behind Colorado's First-ever Rural Venture Capital Pitch Event

The World is Finally Ready for a New Internet

The #bitcoin Writing Contest by Rootstock and HackerNoon: Round 1 Results 🎉

Round the year with the stars by Garrett Putman Serviss - Table of Links

The Data Behind Colorado's First-ever Rural Venture Capital Pitch Event

The World is Finally Ready for a New Internet

The #bitcoin Writing Contest by Rootstock and HackerNoon: Round 1 Results 🎉

Round the year with the stars by Garrett Putman Serviss - Table of Links

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps