GenAI不会在一次剧烈爆炸中窃取您的数据,它泄露了碎片 - 被复制成提示,屏幕截图,出口和精细调节的数据集,这些数据集在终端,SaaS应用程序和云存储之间移动。 可靠地跟踪和阻止人工智能驱动的数据泄露的唯一方法是遵循数据的流程。 通过端点、SaaS和云进行旅行,然后实时应用保护,这是Cyberhaven统一的DSPM + DLP平台背后的思维方式。 全部 如何在现场会话和按需产品发布活动中发挥作用。 点击此链接查看 点击此链接查看 点击此链接查看 新数据泄露看起来不像泄露 当人们想象“人工智能事件”时,他们想象了一些电影:一个恶意代理将整个客户数据库连接到一个模型中。 这几乎从来不是怎么发生的。 在我们所看到的环境中,与人工智能相关的数据损失看起来更像是这样的: 产品经理将几行路线图数据粘贴到模型中,以帮助编写启动简报。 开发人员将一个代码片段与专有算法复制到ChatGPT中来调试比赛条件。 金融分析师将一个板块的片段导出到CSV中,以便提供内部LLM。 孤立的每一个行动似乎是无害的―― 但是,在几周和几个月的时间里,这些碎片在不同的工具、身份和位置上积累起来。 “只有几条线,” “只是一个屏幕截图” “这只是一张桌子。 从攻击者的角度来看,你不需要 足够的片段,拼在一起,往往和原件一样有价值。 全部 为什么人工智能数据丢失对传统工具几乎是看不见的 大多数组织仍然使用一种心理模型来保护数据: 数据生活在明确的系统中(数据库,文件共享,文档存储库)。 “过滤”是一个不间断的事件(一个大上传,一个大出口,一个大电子邮件)。 他打破了这两个假设。 1、数据现在是默认分裂的 我们不再共享文件;我们共享 它已经是真实的,在SaaS上,AI将其倍增: 零件 一个保密的幻灯片成为:电子邮件中的两个段落,Jira票中的三个子弹,以及插入AI提示的一个段落。 一个源代码文件成为了:插入到聊天中的函数,在Git中生成的补丁,以及Slack线程中的屏幕截图。 当您注意到某些问题时,数据已经被切断,转换,翻译,并在数十个系统中混合到其他内容中。 2、控制仍按位置加密 安全堆栈反映了这种分裂: 终端和网关上的DLP专注于移动数据。 DSPM专注于在SaaS和云中休息时的数据。 新的AI安全工具专注于特定模型中的提示和响应。 每个人都知道自己的领域,但很少发生了什么。 或 它所观察到的事件,所以你结束了: 之前 之后 一个 DSPM 警报表示:“这个桶包含敏感数据”,但不是它是如何到达那里或是谁移动的。 一个 DLP 警告表示:“有人将机密文本粘贴到浏览器中,”但不是文本的来源或下一个位置。 一个人工智能使用报告说,“这些应用程序正在与LLM交谈,”但不指定他们暴露的潜在数据。 单独来说,这些都是部分真理,一起,没有背景,它们变成噪音。 我们通过在数据线路上投注公司学到了什么 在“数据线”成为每个安全供应商的底盘上的滑板之前,我们在其周围建立了一个公司。 Cyberhaven的创始团队来自EPFL和DARPA网络大挑战,在那里我们建立了技术来跟踪数据如何通过系统在教学水平上流动,而不仅仅是文件水平。 一个敏感的对象 - 它出生在哪里,它是如何改变的,谁触摸了它,它试图离开组织的地方。 history 我们有时在内部开玩笑,我们是 在它成为时尚的营销语言之前,我们一直在提供基于线性的检测和响应。 “the original data lineage company” 当时,这种方法解决了如下的问题: 寻找隐藏在数百万“正常”文件操作中的内部威胁。 了解复杂的IP泄露,其中内容已被复制,压缩,加密,更名,并在多个系统中移动。 我们当时认为线性是强大的。 在人工智能时代,它是不可谈判的,就像试图允许完全自动驾驶,而无需在旧金山周围开车,收集远程测量数据。 AI Made Lineage 是强制性的,不是可选的 人工智能加速了两个已经在进行的趋势: 数据永远不会停留,它不断地在终端、SaaS和云之间移动。 客户厌倦了将DSPM、DLP、内部风险和单独的AI工具整合在一起。 如果你关心人工智能驱动的数据过滤,你不能只看: 静态存储(仅 DSPM),或 Network egress(仅DLP)或 ,只为,只为。 您需要了解知识是如何移动的:设计文件中的想法如何成为产品文档中的子弹,Slack线条中的段落,以及向外部模型的提示。 这就是我们建立Cyberhaven的全部原因。 它将 DSPM 和 DLP 结合到一个单一的数据线程基础上,允许安全团队看到两者: unified AI & data security platform 数据居住的地方(库存,姿势,错误配置),以及 数据如何移动(复制/粘贴,导出,上传,AI提示,电子邮件,Git推,等等)。 一旦你有了这个完整的图像,AI的过滤不再是神秘的,它看起来像任何其他事件的序列,只是更快,更重复。 实际阻止人工智能驱动数据泄露的原则 如果我今天开始一个绿色领域的安全计划,人工智能从零开始,这是我坚持的原则。 1、统一休息时的数据和运动中的数据 你不能保护你只看到的东西,你不能保护你只看到的一部分,数据正坐在云和SaaS中。 DLP告诉你数据是如何移动的,特别是在终端和退出点。 一起,通过线程,你可以得到完整的故事: 对象存储中的这个模型培训数据集来自该 SaaS 应用程序的出口,该应用程序起源于该内部 HR 系统,并通过此快速流向外部 LLM 得到丰富。 这是你需要决定是否阻止、隔离或允许的背景水平,特别是当人工智能参与时。 将身份、行为和内容视为单一信号 每当我审查一个严重的事件时,我想要回答三个问题: 具体数据是什么?(受监管的数据,IP,源代码,M&A文档?) 行动背后的人类或服务账户是谁?(角色,历史,典型的行为) 这种事件序列如何不同于该身份和该数据的“正常”? 遗传工具通常只回答其中一个: 内容扫描器知道什么,但不知道谁。 身份系统知道谁,但不知道他们对数据做了什么。 UEBA系统知道异常,但没有数据敏感性。 基于线程驱动的系统可以实时对应这三种情况,这是在数百万个“正常”事件的噪音中可靠地找到少数真正危险的行动的唯一方法。 假设政策不会持续下去 写完美的AI政策是一个输球。 人们总是会找到新的工具,插件,侧面渠道和工作流程. 如果你的保护取决于预测每个矢量的静态规则,你将永远落后。 在实践中最有效的是: 宽而简单的防护栏(“不要将具有这些特征的数据移动到这些类别的目的地”)与 一个人工智能辅助的检测层,使用线程和语义理解来表面描述你没有明确写规则的可疑模式。 我们已经在自主分析师中看到这一点,他们研究线程图和用户行为,以提出或执行控制,而不需要人类预测每一个场景。 4、关闭从洞察到行动的循环 看到问题还不够,看到问题还不够,我们听到关于独立的DSPM工具的最大投诉之一是,它们产生了大量的“洞察力”,但没有直接执行;团队被留下来打开门票并用手追捕业主。 )。 实际上正在移动 提供单击修复途径:取消访问,收紧共享,隔离错误配置的商店,或实时阻止危险的泄露尝试。 将每一个执法决策都送回线路和检测模型中,使系统随着时间的推移变得更加智能。 没有这种紧张的循环,人工智能驱动的泄漏成为一个过度拥挤的风险登记处的另一个线条。 为什么现在重要,而不是“总有一天” 有一个原因,人工智能突然使数据安全再次成为董事会层面的话题。 员工正在使用AI工具比治理能够保持更快。 新的法规和客户期望正在增加数据滥用的风险。 攻击者正在尝试人工智能辅助侦察和过滤。 与此同时,安全团队正在整合工具,他们不想要DLP、DSPM、内部风险和AI安全的单独产品,他们想要一个平台,可以在任何地方看到和控制数据 - 在休息中,在移动中和使用中 - 作为连接组织。 这是我们在Cyberhaven建立的平台,从我们早期的数据线路工作开始,发展成为一个统一的AI和数据安全平台,将DLP,DSPM,内部风险和AI安全结合在一个系统中。 想看看这在现实世界里是什么样子吗? 是 ,我们正在举办一个现场会议,我们将: February 3 at 11:00 AM PT 展示我们统一的AI和数据安全平台的首个公开演示,以及它如何实时跟踪终端、SaaS、云和AI工具的数据片段。 了解安全团队如何将“X射线视觉”纳入数据使用中,以便他们可以隔离数百万正常事件中隐藏的危险行动,并在发生事件之前阻止它们。 分享安全领袖的真实故事,说明人工智能时代遗传的DLP和独立的DSPM在哪里失败了,以及一线第一的方法如何改变游戏。 谈谈我们认为DLP,内部风险,AI安全和DSPM的下一个方向 - 以及为什么我们认为未来属于从第一天开始建立在数据线上的平台,而不是在事实之后重新装修。 深度 如果你正在与人工智能的采用、影子人工智能工具的斗争,或者只是一个越来越大的感觉,你的当前堆栈只是看到你的数据发生了什么的表面,我希望你加入我们并提出艰难的问题。 Watch live 真正的问题是,你能否看到这些片段讲述的故事,以及你能否及时采取行动改变结局。 此文章发表在 HackerNoon 的商业博客计划中。 此文章发表在 HackerNoon 的商业博客计划中。 这个故事发表在HackerNoon的 . 商业博客计划 商业博客计划 商业博客计划
