Kevan Dodhia的职业生涯追溯了现代企业计算的轨迹,从建立高性能分布式SQL引擎到开创人工智能安全的新类别。作为Compute.ai的技术联合创始人,他和他的团队建立了一个计算引擎,比EMR Spark快5倍,以在高度监管的环境中提供数据分析。 结果是Alter(YC S25),AI代理的身份和访问控制平台,体现了Dodhia在分布式系统,SQL计算引擎和受监管部署方面的经验。 safe and compliant Compute.ai的客户包括伦敦证券交易所(LSEG),每一个数据查询和工作都必须符合严格的治理规则,“我们比EMR Spark制造的计算机速度快5倍,并将其出售给LSEG等高度监管的企业,”Dodhia说。 Alter 平台将政策意图分解为机器可执行的控制,在数据平面中使用分布式执行点。就像 Dodhia 设计了 Compute.ai 的 SQL 引擎以实现速度和可靠性一样,Alter 的控制层必须具有高性能。在进行之前,每个代理 API 调用都被拦截和检查,因此延迟是关键的交易。 . zero-trust for AI agents Alter 有效地创建了一个新的安全类别: 该平台生活在人工智能代理人和任何外部工具或数据库之间,通过强有力的身份验证每个请求,并执行细粒政策。术语代理授权捕捉了这个想法:就像用户会话通过身份检查和许可一样,人工智能代理人得到相当的检查。YC发射材料简要地描述了Alter的方法:它将每个工具调用包裹在强有力的身份验证,细粒授权和实时警戒栏中。 agent authorization 在封面下,Alter将策略意图转换为这些低级别控制。例如,企业用户可能会编写一个政策,分配高级别代理角色和功能。Alter的编译器将此转换为数据库查询的行和列级过滤器,甚至是提示参数的检查。 :系统不仅仅说是或否,而且在单个行或字段层面执行哪些数据和操作是允许的。 fine-grained policy for LLMs Alter的核心承诺是实时阻止危险代理命令。由于AI代理可以制造或误解输出,正如Dodhia所指出的,企业担心恶意行为。Alter通过对政策引擎进行检查,解决了这一问题。例如,Alter的政策规则自动限制超出定义权限或交易限制的访问尝试,有助于防止意外操作。Alter的安全模型是为了最大限度地减少有害命令到达生产的风险,使用限制暴露于潜在数据或财务错误的政策。 这种设计反映了Dodhia的分布式系统种类:就像一个快速查询引擎将工作分成碎片一样,Alter的执法是分布式的。每个工具(数据库,API,云服务)都通过控制层连接。该平台甚至支持多云工具(MCP)和原生集成,即将到来的代理代理(A2A)。 ,安全性,无论公司是否使用AWS、GCP或本地系统,都是有效的。这取决于服务于担心被锁定在一个云机制中的合规购买者。 neutral, vendor‑agnostic infrastructure 当然,拦截每一个代理行动都带来了妥协。从身份验证和政策评估中增加了延迟。该团队发现,将政策仅作为代码保持过于以开发者为中心。相反,他们投资了针对安全团队和业务用户的政策UI。它以简单的方式呈现政策,以便非技术利益相关者也能定义它们。Dodhia的一课强调:这些政策的用户往往是审计员或合规官员,而不是工程师。这需要UX是明确和可验证的。实时执法也需要效率;政策检查必须在毫秒内完成。 在高层设置中。 AI access control 整合的复杂性是另一个挑战。Alter必须与潜在的几十个工具和代理框架一起坐在一起。Dodhia的过去经验帮助他:在Compute.ai,他在严格的服务级别要求下构建了连接器,以便现有代理平台(OpenAI、Anthropic等)可以拨打Alter的网关。 在Dodhia的故事中,一个重复的主题是合规性。服务金融部门,你会发现审计轨迹和内置的安全控制是不可谈判的。在Compute.ai,他不得不证明每个工作的来源;在Alter,他将审计可用性放在第一天。平台记录每个代理人请求和决定,并将其显示在CISO准备的仪表板中。例如,Alter可以报告“代理X在下午3点14分要求客户记录的数据库,并且在政策规则Z下被拒绝”。这种透明性是一个主要的销售点。Dodhia指出,合规购买者期望有最少特权的证据,并在后台自动执行政策,基本上证明没有违反任何规则。在内置的审计轨道中,团队可以通过SOC2,HIPAA或GD 多迪亚强调遵守的几点教训:首先,政策必须 它影响了Alter避免“神奇”AI解决方案;每个访问决策都是确定性和可记录的;其次,AI代理的安全性不能成为后续的想法,“当你在受监管的环境中运行时,”Dodhia说,“你不能在终点上争取安全性,它必须是架构的核心”。这就是为什么Alter从头开始作为AI的零信任平台:它的名字和设计是关于消除暗示的信任。 auditable by design Kevan Dodhia从分布式计算机转向代理安全平台的转变说明了深度工程经验如何解决新兴的人工智能风险。Alter是技术和概念的突破:它将直观的策略编译成低级别的控制,将数据库访问控制的严格性应用到AI代理人身上。 ,它防止一个单一的意外升级。 zero-trust for AI agents 结果与多迪亚的目标相一致:通过限制他们所需的最低访问和持续时间来使人工智能代理人安全生产,他的旅程强调,在安全领域,特别是遵守环境中,架构和人类需求必须同步。

This story contains new, firsthand information uncovered by the writer.

該音頻是用故事的原始語言製作的！

Kevan Dodhia的建设者之旅,为人工智能代理创造新的政策层

About Author

註釋

標籤

这篇文章刊登在

Related Stories

使用这 18 种开发工具来提高你的工作效率 🚀🔥

成功云迁移的完整指南：策略和最佳实践

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

如何将您的工作流程提高 10 倍：17 个必备应用程序

使用这 18 种开发工具来提高你的工作效率 🚀🔥

成功云迁移的完整指南：策略和最佳实践

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

如何将您的工作流程提高 10 倍：17 个必备应用程序

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps