Los equipos de seguridad monitorearon a los empleados de alto riesgo que estaban propensos a descargar archivos antes de salir de la empresa, o a los empleados negligentes que se involucraron en comportamientos imprudentes (por ejemplo, haciendo clic en un enlace de phishing). El riesgo ya no está limitado a los empleados maliciosos, sino también a aquellos que desean facilitar su trabajo.Al utilizar herramientas y plataformas de IA ampliamente disponibles para el trabajo, pueden compartir inadvertidamente datos sensibles fuera de su entorno empresarial seguro. Los datos sobre el incremento de los riesgos de insider se basan en los datos de Proofpoint “Dos tercios de los CISOs experimentaron pérdida de datos significativa en el último año, con incidentes impulsados por insiders encabezando la lista de causas”. La voz del informe de la CISO La voz del informe de la CISO El movimiento de datos también ha cambiado drásticamente.En lugar de moverse verticalmente a través de los canales de aprobación estándar, los datos ahora se mueven horizontalmente a través de equipos, herramientas y asistentes de IA. A su vez, los líderes de seguridad están luchando para obtener visibilidad en su actividad.Los datos de Proofpoint muestran que En los EE.UU. están preocupados por la fuga de datos de clientes a través de plataformas de IA generativas públicas. El 80 por ciento de los CISOs El 80 por ciento de los CISOs El modelo recopilará posteriormente datos de sistemas internos (por ejemplo, CRM, ERP) y múltiples fuentes externas (por ejemplo, sitios web, redes sociales), luego transmitirá los resultados combinados a todos los miembros de la plataforma de colaboración del usuario (Slack). AI como una capa de movimiento de datos La IA cambió fundamentalmente el ciclo de vida de los datos dentro de las organizaciones. Tradicionalmente, hubo maniobras claras, donde un empleado descargó un archivo, lo editó y lo envió a un compañero de trabajo. Los flujos de trabajo de IA no son los mismos.Un trabajador hace una pregunta.El asistente de IA extrae información de muchas fuentes para responder a la pregunta.Condense los documentos, cambian el formato de los datos y producen una salida que puede ser compartida en plataformas de colaboración.Cada paso ocurre en segundos con muy poca supervisión humana. “A medida que las organizaciones adoptan agentes autónomos que pueden navegar, escribir código y actuar en múltiples sistemas, la autonomía se convierte en un importante multiplicador de riesgos”, dice Proofpoint en un comunicado. . Artículo relacionado Co-autor Artículo relacionado Co-autor Esta actividad "multi-hop" hace que sea más difícil proteger. agentes de IA y plugins se pueden instalar en más de un sistema. Recopilan datos de su CRM, los comparan con archivos de correo electrónico, los agregan a la información de una plataforma de colaboración y envían los resultados a una herramienta de análisis que no es parte de su empresa. La expansión de Insider: Intent vs. Convenience Tuve malos actores dentro de la empresa robando datos, y trabajadores descuidados que no prestaron atención a la capacitación de seguridad. Los empleados no están tratando de causar daño. Están tratando de trabajar de manera más eficiente y cumplir con los plazos de mañana. Poner un contrato de cliente en ChatGPT y pedir un resumen es más rápido que leer manualmente a través de 40 páginas. Cargar una hoja de cálculo financiera a un asistente de IA genera gráficos en segundos en lugar de horas. La mayoría de los trabajadores todavía no saben dónde están las líneas para las políticas.Las empresas son lentas en definir lo que los trabajadores de datos pueden dar a las herramientas de IA. ¿Qué pasa con los datos una vez que se ingresan a un sistema de IA?Cuando las reglas no son claras, las personas hacen lo que necesitan para hacer su trabajo. Uso aceptable en el lugar de trabajo Uso aceptable en el lugar de trabajo Plataformas de colaboración como gateways de AI Las plataformas de colaboración son el primer lugar donde la mayoría de los datos se mueven a los sistemas de IA. Slack, Teams, Gmail, Google Workspace y Microsoft 365 son los "primeros saltos" para los datos a medida que salen de las instalaciones de su empresa y son ingeridos por las herramientas de IA de hoy. Los permisos de OAuth y los conectores de API permiten la conexión. Un empleado instala un plugin de productividad que afirma resumir las conversaciones de Slack o ayudarles a escribir respuestas de correo electrónico. La aplicación solicita un acceso extenso a los datos del espacio de trabajo. Muchas personas hacen clic en "permitir" sin saber lo que están permitiendo. Ahora, un servicio de IA de terceros puede leer mensajes, archivos compartidos e información del calendario por meses. Los CISO tienen lagunas significativas en su capacidad de ver lo que está sucediendo en estos flujos de trabajo. A menudo no pueden responder preguntas simples sobre qué herramientas de IA están utilizando los empleados para trabajar juntos. No tienen telemetría para rastrear qué datos pasan a través de estas integraciones. No saben quién está enviando información privada a los sistemas de IA o dónde van las salidas después de que se generan. Por qué los controles tradicionales no miden limpiamente Los marcos legados de seguridad se construyeron para diferentes modelos de amenazas más predecibles.Como tales, tienen desventajas significativas en el manejo de cómo la IA realmente mueve datos a través de las organizaciones modernas. 
 
 
 
 Estático vs. dinámico: los controles DLP y CASB tradicionales se basan en la gobernanza estática, que se basa en reglas predefinidas sobre dónde se pueden enviar los datos. AI introduce fluidos y flujos de trabajo en varios pasos donde los datos se consumen y redistribuyen en solo segundos. Humanos vs. automatizados: En los últimos años, el comportamiento de los insiders obligó a los humanos a tomar decisiones en la mayoría de los pasos. AI automatiza parcialmente la ingestión, transformación y redistribución de datos a través de agentes y/o asistentes. Predecible vs. emergente: Cuando los flujos de trabajo siguen patrones predecibles, los equipos de seguridad generalmente pueden pre-clasificar las vías de exposición probable. flujos de trabajo de IA son emergentes; un empleado puede ingerir datos de cinco sistemas diferentes de una manera que nadie esperaba. Lo que los CISOs están pidiendo (o pronto preguntarán) Las preguntas que los líderes de seguridad están pidiendo ayuda apuntan a dónde va el mercado.Estas no son sólo preguntas teóricas; son desafíos del mundo real que requieren gobernanza estratégica. 
 
 
 
 
 
 ¿Qué herramientas de IA son sancionadas versus sombra?Para construir un marco de gobernanza exitoso, necesita comprender todas las aplicaciones de IA actualmente en uso. ¿Qué categorías de datos pueden entrar en los flujos de trabajo de IA?Las empresas necesitan estar claras sobre si los sistemas de IA pueden manejar registros de clientes, datos financieros, código fuente o datos que estén sujetos a reglas. ¿Dónde viaja el contenido creado por la IA después? la IA hace resúmenes o informes que se comparten con otros equipos o socios externos. ¿Cómo auditamos, clasificamos y logramos las interacciones de IA?Sin capacidades de registro, los equipos de seguridad no pueden investigar incidentes o tener registros listos para los reguladores de cumplimiento cuando comiencen a hacer preguntas. Hacer claro quién es responsable de la supervisión de la gobernanza (por ejemplo, el CISO, los equipos de datos, legal o de cumplimiento) ayuda a evitar brechas en las que nadie es responsable. Perspectivas de la industria sobre el riesgo de insider El riesgo de insider ya no será sólo un problema específico para las personas; también incluirá el estudio de los flujos de trabajo de la IA y los patrones de movimiento de datos. el análisis del comportamiento del usuario por sí solo no ayudará a los equipos de seguridad a lidiar con esto. “Las organizaciones dejarán de tratar las señales humanas, los datos de identidad y los eventos técnicos como flujos separados”, predice Proofpoint. Por esta razón, la adopción de la IA requerirá que toda la empresa comparta la responsabilidad.Cuando se trata de gestionar la gobernanza de datos, la seguridad de las aplicaciones, las políticas legales y los mandatos de cumplimiento, los CISOs no pueden manejar este problema por sí solos.Espero ver marcos de responsabilidad conjuntos en los que los jefes de datos y los líderes de seguridad trabajen juntos en la gobernanza específica de la IA, en lugar de operar en unidades aisladas. Takeaway La IA no está haciendo nuevos insiders. está cambiando la forma en que las personas que trabajan con datos lo comparten cada día. En lugar de preguntar sobre la intención, el enfoque se ha desplazado para hacer estas herramientas más visibles y establecer reglas que se adapten a cómo los empleados realmente las usan. 
 
 Esta historia fue distribuida como un lanzamiento por Jon Stojan bajo HackerNoon's Business Blogging Program. Esta historia fue distribuida como un lanzamiento por Jon Stojan bajo HackerNoon's Business Blogging Program.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Este audio es producido en el idioma original de la historia!

El nuevo riesgo de los insiders: la IA cambia la forma en que los datos se mueven dentro de la empresa

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Telegram: el puente de Crypto Island hacia el continente

Navegando por las aguas: desarrollo de aplicaciones RAG de nivel de producción con lagos de datos

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Creación de productos criptográficos centrados en el usuario: la importancia de los comentarios de los clientes

Telegram: el puente de Crypto Island hacia el continente

Navegando por las aguas: desarrollo de aplicaciones RAG de nivel de producción con lagos de datos

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Creación de productos criptográficos centrados en el usuario: la importancia de los comentarios de los clientes

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps