Antes da aceleração da IA, o risco de insider sempre se centrava na intenção humana.As equipes de segurança monitoravam funcionários de alto risco que eram propensos a baixar arquivos antes de sair da empresa, ou funcionários negligentes que se envolvem em comportamento imprudente (por exemplo, clicando em um link de phishing.) A IA mudou fundamentalmente esse paradigma.O risco não está mais limitado aos funcionários maliciosos, mas também àqueles que desejam tornar seu trabalho mais fácil.Ao usar ferramentas e plataformas de IA amplamente disponíveis para o trabalho, eles podem inadvertidamente compartilhar dados sensíveis fora de seu ambiente de negócios seguro. Os dados sobre o aumento dos riscos de insider tracks.Baseado em Proofpoint “Dois terços dos CISOs sofreram perda de dados significativa no ano passado, com incidentes impulsionados por insiders no topo da lista de causas.” A voz do relatório da CISO A voz do relatório da CISO O movimento de dados também mudou drasticamente.Em vez de se mover verticalmente através de canais de aprovação padrão, os dados agora se movem horizontalmente em equipes, ferramentas e assistentes de IA. Por sua vez, os líderes de segurança estão lutando para ganhar visibilidade em suas atividades.Dados da Proofpoint mostram que nos EUA estão preocupados com o vazamento de dados de clientes através de plataformas de IA geradoras públicas. 80% dos CISOs 80% dos CISOs O modelo recolhe dados de sistemas internos (por exemplo, CRM, ERP) e múltiplas fontes externas (por exemplo, sites, mídias sociais), depois transmite os resultados combinados a todos os membros da plataforma de colaboração do usuário (Slack). AI como uma camada de movimento de dados A IA alterou fundamentalmente o ciclo de vida dos dados dentro das organizações. Tradicionalmente, houve manobras claras, onde um funcionário baixou um arquivo, editou-o e enviou-o a um colega. Os fluxos de trabalho de IA não são os mesmos. Um trabalhador faz uma pergunta. O assistente de IA extrai informações de muitas fontes para responder a pergunta. Ele condensou documentos, mudou o formato de dados e produziu uma saída que pode ser compartilhada em plataformas de colaboração. “À medida que as organizações adotam agentes autônomos que podem navegar, escrever código e agir em múltiplos sistemas, a autonomia se torna um grande multiplicador de riscos”, diz a Proofpoint. . Posts relacionados co-autor Posts relacionados co-autor Esses agentes e plugins de IA podem ser instalados em mais de um sistema, coletando dados do seu CRM, comparando-os com arquivos de e-mail, adicionando-os a informações de uma plataforma de colaboração e enviando os resultados para uma ferramenta de análise que não faz parte da sua empresa. A expansão do Insider: Intent vs. Convenience Você tinha atores ruins dentro da empresa roubando dados, e trabalhadores descuidados que não prestaram atenção ao treinamento de segurança. Os funcionários não estão tentando causar danos. Eles estão tentando trabalhar de forma mais eficiente e cumprir os prazos de amanhã. Colar um contrato de cliente no ChatGPT e pedir um resumo é mais rápido do que ler manualmente por 40 páginas. Carregar uma planilha financeira para um assistente de IA gera gráficos em segundos em vez de horas. A maioria dos trabalhadores ainda não sabe onde estão as linhas para as políticas.As empresas são lentas em definir o que os trabalhadores de dados podem dar às ferramentas de IA. ou o que acontece com os dados uma vez que eles são inseridos em um sistema de IA. Quando as regras não são claras, as pessoas fazem o que precisam fazer para fazer seu trabalho. Uso aceitável no local de trabalho Uso aceitável no local de trabalho Plataformas de colaboração como gateways AI As plataformas de colaboração são o primeiro lugar onde a maioria dos dados se move para os sistemas de IA. Slack, Teams, Gmail, Google Workspace e Microsoft 365 são todos os "primeiros saltos" para os dados à medida que saem das instalações da sua empresa e são ingeridos pelas ferramentas de IA de hoje. As permissões do OAuth e os conectores da API permitem a conexão. Um funcionário instala um plugin de produtividade que afirma resumir conversas do Slack ou ajudá-los a escrever respostas de e-mail. O aplicativo solicita acesso extensivo aos dados do espaço de trabalho. Muitas pessoas clicam em "permitir" sem saber o que estão permitindo. Agora, um serviço de IA de terceiros pode ler mensagens, arquivos compartilhados e informações de calendário no valor de meses. Os CISOs têm lacunas significativas em sua capacidade de ver o que está acontecendo nesses fluxos de trabalho. Muitas vezes eles não podem responder perguntas simples sobre quais ferramentas de IA os funcionários estão usando para trabalhar juntos. Eles não têm nenhuma telemetria para rastrear quais dados passam por essas integrações. Eles não sabem quem está enviando informações privadas para os sistemas de IA ou para onde as saídas vão depois que são geradas. Por que os controles tradicionais não mapeiam limpo Quadros de segurança legados foram construídos para diferentes modelos de ameaças mais previsíveis.Como tal, eles têm desvantagens significativas em lidar com a forma como a IA realmente move dados em organizações modernas. 
 
 
 
 Estatico vs. Dinâmico: os controles DLP e CASB tradicionais dependem da governança estática, que é baseada em regras pré-definidas sobre onde os dados podem ser enviados.A IA introduz fluidos e fluxos de trabalho multi-passo onde os dados são consumidos e redistribuídos em segundos.A velocidade e variabilidade dos fluxos de trabalho da IA tornam as políticas estáticas irrelevantes e impraticáveis. Humano versus automatizado: Nos últimos anos, o comportamento de insider exigiu que os seres humanos tomassem decisões na maioria das etapas. AI automatiza parcialmente a ingestão, transformação e redistribuição de dados através de agentes e / ou assistentes. frameworks IAM fornecem acesso aos usuários, mas não são projetados para controlar o que os fluxos de trabalho de IA automatizados podem solicitar em nome de um usuário. Previsível versus emergente: Quando os fluxos de trabalho seguem padrões previsíveis, as equipes de segurança podem tipicamente pré-classificar os caminhos de exposição prováveis. fluxos de trabalho de IA são emergentes; um funcionário pode ingerir dados de cinco sistemas diferentes de uma forma que ninguém esperava. O que os CISOs estão pedindo (ou em breve perguntarão) As perguntas que os líderes de segurança estão pedindo ajuda apontam para onde o mercado está indo. Estas não são apenas perguntas teóricas; são desafios do mundo real que exigem governança estratégica. 
 
 
 
 
 
 Quais ferramentas de IA são sancionadas versus sombra?Para construir um quadro de governança bem-sucedido, você precisa entender todas as aplicações de IA atualmente em uso. Quais categorias de dados podem entrar em fluxos de trabalho de IA?As empresas precisam estar claras sobre se os sistemas de IA podem lidar com registros de clientes, dados financeiros, código-fonte ou dados que estão sujeitos a regras. Onde o conteúdo criado pela IA viaja depois? A IA faz resumos ou relatórios que são compartilhados com outras equipes ou parceiros externos. Como auditamos, classificamos e registamos interações de IA?Sem capacidades de registo, as equipes de segurança não podem investigar incidentes ou ter registros prontos para os reguladores de conformidade quando começam a fazer perguntas. Tornar claro quem é responsável pela supervisão da governança (por exemplo, o CISO, as equipes de dados, legal ou de conformidade) ajuda a evitar lacunas onde ninguém é responsabilizado. Perspectivas da indústria sobre o risco de insider O risco de insider não será mais apenas um problema específico para as pessoas; também incluirá o estudo de fluxos de trabalho de IA e padrões de movimento de dados.A análise de comportamento do usuário sozinha não ajudará as equipes de segurança a lidar com isso.Agentes automatizados, conectores de API e integrações com plataformas de colaboração agora fazem parte do modelo de ameaça. “As organizações deixarão de tratar os sinais humanos, dados de identidade e eventos técnicos como fluxos separados”, prevê Proofpoint. “A próxima evolução da gestão de riscos de insider depende da conexão dessas áreas, porque o risco verdadeiro raramente aparece em uma única dimensão.” Por esta razão, a adoção da IA exigirá que toda a empresa compartilhe a responsabilidade.Quando se trata de gerenciar a governação de dados, segurança de aplicativos, políticas legais e mandatos de conformidade, os CISOs não podem lidar com esse problema por conta própria.Espere ver quadros de responsabilidade conjuntos nos quais os chefes de dados e líderes de segurança trabalham juntos em governação específica da IA, em vez de operar em unidades isoladas. Takeaway A IA não está fazendo novos insiders. está mudando a forma como as pessoas que trabalham com dados compartilham todos os dias. Em vez de perguntar sobre a intenção, o foco mudou para tornar essas ferramentas mais visíveis e para estabelecer regras que se encaixem em como os funcionários realmente as usam. 
 
 Esta história foi distribuída como um lançamento por Jon Stojan sob HackerNoon's Business Blogging Program. Esta história foi distribuída como um lançamento por Jon Stojan sob HackerNoon's Business Blogging Program.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Este áudio é produzido no idioma original da história!

O novo risco de insider: a IA muda a forma como os dados se movem dentro da empresa

About Author

COMENTARIOS

Rótulos

ESTE ARTIGO FOI APRESENTADO EM

Related Stories

Guia do arquiteto para construir arquitetura de referência para um Datalake de IA/ML

Criando produtos criptográficos centrados no usuário: a importância do feedback do cliente

Vazamento do prompt do sistema Claude Sonnet 3.5: uma análise forense

O guia completo para uma migração bem-sucedida para a nuvem: estratégias e práticas recomendadas

Guia do arquiteto para construir arquitetura de referência para um Datalake de IA/ML

Criando produtos criptográficos centrados no usuário: a importância do feedback do cliente

Vazamento do prompt do sistema Claude Sonnet 3.5: uma análise forense

O guia completo para uma migração bem-sucedida para a nuvem: estratégias e práticas recomendadas

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps