I team di sicurezza hanno monitorato i dipendenti ad alto rischio che erano inclini a scaricare file prima di lasciare l'azienda, o i dipendenti negligenti che si sono impegnati in comportamenti imprudenti (ad esempio, cliccando su un link di phishing). L’intelligenza artificiale ha radicalmente cambiato questo paradigma.Il rischio non è più limitato ai dipendenti malintenzionati, ma anche a coloro che vogliono rendere il loro lavoro più facile.Utilizzando strumenti e piattaforme di intelligenza artificiale ampiamente disponibili per il lavoro, possono inavvertitamente condividere dati sensibili al di fuori del loro ambiente aziendale sicuro. I dati sugli insider rischi aumentati traccia.Sulla base di Proofpoint “Due terzi dei CISO hanno subito perdite di dati sostanziali nell’ultimo anno, con incidenti motivati da insider in cima alla lista delle cause”. La voce del rapporto CISO La voce del rapporto CISO Anche il movimento dei dati è cambiato drammaticamente. Invece di muoversi verticalmente attraverso i canali di approvazione standard, i dati si muovono ora orizzontalmente tra team, strumenti e assistenti AI. A loro volta, i leader della sicurezza stanno lottando per ottenere visibilità nelle loro attività. I dati di Proofpoint mostrano che negli Stati Uniti sono preoccupati per le perdite di dati dei clienti attraverso le piattaforme AI generative pubbliche. L'80% dei CISO L'80% dei CISO Il modello raccoglie successivamente dati dai sistemi interni (ad esempio, CRM, ERP) e da più fonti esterne (ad esempio, siti web, social media), quindi trasmette i risultati combinati a tutti i membri della piattaforma di collaborazione dell'utente (Slack). AI come data movement layer L’intelligenza artificiale ha radicalmente alterato il ciclo di vita dei dati all’interno delle organizzazioni. Tradizionalmente, ci sono state maniche chiare, in cui un dipendente ha scaricato un file, lo ha modificato e lo ha inviato a un collega. I flussi di lavoro di AI non sono gli stessi. Un lavoratore pone una domanda. L'assistente AI estrae informazioni da molte fonti per rispondere alla domanda. Condensano i documenti, cambiano il formato dei dati e producono un output che può essere condiviso su piattaforme di collaborazione. Ogni passo avviene in secondi con molto poca supervisione umana. “Poiché le organizzazioni adottano agenti autonomi che possono navigare, scrivere codice e agire su più sistemi, l’autonomia diventa un importante moltiplicatore del rischio”, afferma Proofpoint. . Articoli correlati co-autore Articoli correlati co-autore Questa attività “multi-hop” rende più difficile la protezione. agenti e plug-in di intelligenza artificiale possono essere installati in più di un sistema. Raccolgono i dati dal tuo CRM, li confrontano con gli archivi di posta elettronica, li aggiungono alle informazioni di una piattaforma di collaborazione e inviano i risultati a uno strumento di analisi che non fa parte della tua azienda. L’espansione Insider: Intent vs. Convenience Avete avuto cattivi attori all’interno dell’azienda che rubavano i dati, e lavoratori trascurati che non prestavano attenzione alla formazione sulla sicurezza. I dipendenti non stanno cercando di causare danni. Essi stanno cercando di lavorare in modo più efficiente e soddisfare le scadenze di domani. Collegare un contratto cliente in ChatGPT e richiedere un riassunto è più veloce che leggere manualmente attraverso 40 pagine. Caricando un foglio di calcolo finanziario a un assistente AI genera grafici in secondi invece di ore. La maggior parte dei lavoratori non sa ancora dove sono le linee per le politiche.Le aziende sono lente a definire ciò che i lavoratori dei dati possono dare agli strumenti AI. Quando le regole non sono chiare, le persone fanno ciò che devono fare per ottenere il loro lavoro fatto. accettabile uso di inthe posto di lavoro accettabile uso di inthe posto di lavoro Le piattaforme collaborative come gateway AI Slack, Teams, Gmail, Google Workspace e Microsoft 365 sono tutti i "primi salti" per i dati in quanto escono dalle sedi della tua azienda e vengono assorbiti dagli strumenti AI di oggi. Le autorizzazioni OAuth e i connettori API consentono la connessione. Un dipendente installa un plugin di produttività che sostiene di riassumere le conversazioni di Slack o di aiutarli a scrivere risposte via e-mail. L'app richiede un ampio accesso ai dati dello spazio di lavoro. Molte persone cliccano su "permettere" senza sapere cosa consentono. Ora, un servizio AI di terze parti può leggere messaggi, file condivisi e informazioni sul calendario per mesi. I CISO hanno lacune significative nella loro capacità di vedere cosa sta accadendo in questi flussi di lavoro. Spesso non possono rispondere a domande semplici su quali strumenti AI i dipendenti utilizzano per lavorare insieme. Non hanno alcuna telemetria per tracciare quali dati passano attraverso queste integrazioni. Non sanno chi sta inviando informazioni private ai sistemi AI o dove vanno le uscite dopo che sono generate. Perché i controlli tradizionali non mappano in modo pulito I quadri di sicurezza legati sono stati costruiti per diversi modelli di minaccia più prevedibili.In quanto tali, hanno notevoli svantaggi nel gestire il modo in cui l'IA effettivamente sposta i dati tra le organizzazioni moderne. 
 
 
 
 Statico vs. dinamico: i controlli tradizionali DLP e CASB si basano sulla governance statica, che si basa su regole predefinite in merito a dove i dati possono essere inviati. AI introduce flussi di lavoro fluidi e multi-passo in cui i dati vengono consumati e ridistribuiti in pochi secondi. Human vs. automatizzato: Negli ultimi anni, il comportamento degli insider ha richiesto agli esseri umani di prendere decisioni nella maggior parte dei passaggi. AI automatizza parzialmente l'ingestione, la trasformazione e la ridistribuzione dei dati attraverso agenti e/o assistenti. IAM frameworks forniscono l'accesso agli utenti ma non sono progettati per controllare ciò che i flussi di lavoro AI automatizzati possono richiedere per conto di un utente. Prevedibile vs. emergenti: quando i flussi di lavoro seguono modelli prevedibili, i team di sicurezza possono tipicamente pre-classificare i percorsi di esposizione probabili. i flussi di lavoro AI sono emergenti; un dipendente può ingerire dati da cinque sistemi diversi in un modo in cui nessuno si aspettava. Cosa chiedono i CISO (o chiederanno presto) Le domande che i leader della sicurezza chiedono aiuto indicano dove sta andando il mercato.Queste non sono solo domande teoriche; sono sfide del mondo reale che richiedono una governance strategica. 
 
 
 
 
 
 Quali strumenti AI sono sanzionati contro le ombre?Per costruire un quadro di governance di successo, è necessario comprendere tutte le applicazioni di AI attualmente in uso. Quali categorie di dati possono entrare nei flussi di lavoro AI?Le aziende devono essere chiare sul fatto che i sistemi AI possano gestire i registri dei clienti, i dati finanziari, il codice sorgente o i dati soggetti a regole. Dove viaggia il contenuto creato dall'IA dopo? l'IA compie riassunti o rapporti che vengono condivisi con altri team o partner esterni. Come auditiamo, classifichiamo e registriamo le interazioni AI? Senza le capacità di logging, i team di sicurezza non possono indagare sugli incidenti o avere i record pronti per i regolatori di conformità quando iniziano a porre domande. Chi possiede la governance dei dati AI in tutta l'organizzazione? chiarire chi è responsabile della supervisione della governance (ad esempio, il CISO, i team di dati, legali o di conformità) aiuta a evitare lacune in cui nessuno è tenuto responsabile. Le prospettive del settore sul rischio di insider Il rischio di insider non sarà più solo un problema specifico per le persone; includerà anche lo studio dei flussi di lavoro AI e dei modelli di movimento dei dati.L'analisi del comportamento degli utenti da sola non aiuterà i team di sicurezza a far fronte a questo problema. "Le organizzazioni smetteranno di trattare i segnali umani, i dati di identità e gli eventi tecnici come flussi separati", prevede Proofpoint. "La prossima evoluzione della gestione del rischio degli insider dipende dalla connessione di queste aree, perché il vero rischio raramente appare in una singola dimensione". Per questo motivo, l'adozione di AI richiederà che l'intera azienda condivida la responsabilità. Quando si tratta di gestire la governance dei dati, la sicurezza delle applicazioni, le politiche legali e i mandati di conformità, i CISO non possono gestire questo problema da soli. Il Takeaway L’intelligenza artificiale non sta creando nuovi insiders. sta cambiando il modo in cui le persone che lavorano con i dati lo condividono ogni giorno. Invece di chiedere l’intenzione, l’attenzione è spostata a rendere questi strumenti più visibili e a stabilire regole che si adattino a come i dipendenti li usano effettivamente. 
 
 Questa storia è stata distribuita come un rilascio da Jon Stojan nell'ambito di HackerNoon's Business Blogging Program. Questa storia è stata distribuita come un rilascio da Jon Stojan nell'ambito di HackerNoon's Business Blogging Program.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Questo audio è prodotto nella lingua originale della storia!

The New Insider Risk: AI Changes How Data Moves Inside the Enterprise

About Author

COMMENTI

CARTELLINI

QUESTO ARTICOLO È STATO PRESENTATO IN

Related Stories

Meet the HackerNoon Top Writers: Nebojsa Nesha Todorovic - Upwork, Freelancing, and Future of Work

Raggiungi più lettori! POTENZIA la tua storia su HackerNoon

I Tried Perplexity For a Week, And I Don't Think AI Search Engines Can Replace Google.. Yet

New Year, New Exciting Features: Mint Your Name, Watch Web 2.5 and Meet The Top Startups of The Year

Meet the HackerNoon Top Writers: Nebojsa Nesha Todorovic - Upwork, Freelancing, and Future of Work

Raggiungi più lettori! POTENZIA la tua storia su HackerNoon

I Tried Perplexity For a Week, And I Don't Think AI Search Engines Can Replace Google.. Yet

New Year, New Exciting Features: Mint Your Name, Watch Web 2.5 and Meet The Top Startups of The Year

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps