Sự nghiệp của Kevan Dodhia đã theo dõi vòng cung của máy tính doanh nghiệp hiện đại, từ việc xây dựng các công cụ SQL phân phối hiệu suất cao đến việc tiên phong một loại bảo mật AI mới. Là đồng sáng lập kỹ thuật của Compute.ai, ông và nhóm của ông đã xây dựng một công cụ tính toán nhanh gấp 5 lần EMR Spark để phục vụ phân tích dữ liệu trong môi trường được quy định cao.Sau khi mua lại Compute.ai vào năm 2025 bởi Terizza, Dodhia đã chuyển sự chú ý của mình sang một vấn đề mới: làm thế nào để tạo ra các đại lý AI tự trị Kết quả là Alter (YC S25), một nền tảng kiểm soát danh tính và truy cập cho các đại lý AI thể hiện kinh nghiệm của Dodhia với các hệ thống phân tán, công cụ tính toán SQL và triển khai được quy định. safe and compliant Trong vai trò trước đây của mình, Dodhia đã học được cách kiểm toán và tuân thủ quan trọng đối với các khách hàng tài chính và chính phủ. Khách hàng của Compute.ai bao gồm Sàn giao dịch chứng khoán London (LSEG), nơi mọi truy vấn dữ liệu và công việc phải đáp ứng các quy tắc quản lý nghiêm ngặt. “Chúng tôi đã xây dựng một công cụ tính toán nhanh hơn EMR Spark 5 lần và bán cho các doanh nghiệp được quy định cao như LSEG”, Dodhia nói. kinh nghiệm đó, mở rộng các truy vấn chậm trễ thấp trên các cụm trong khi làm hài lòng các kiểm toán viên, đã đặt nền tảng cho kiến trúc của Alter. Nền tảng Alter phá vỡ ý định chính sách thành các điều khiển có thể thực thi bằng máy, bằng cách sử dụng các điểm thực thi phân tán trên mặt dữ liệu. Giống như Dodhia đã xây dựng công cụ SQL của Compute.ai cho tốc độ và độ tin cậy, lớp điều khiển của Alter phải có hiệu suất cao. Mỗi cuộc gọi API đại lý được chặn và kiểm tra trước khi tiến hành, vì vậy độ trễ là một sự thỏa hiệp quan trọng. . zero-trust for AI agents Alter hiệu quả tạo ra một loại bảo mật mới: Nền tảng sống giữa một đại lý AI và bất kỳ công cụ hoặc cơ sở dữ liệu bên ngoài nào, xác thực từng yêu cầu với danh tính mạnh mẽ và thực thi các chính sách tinh tế. Thuật ngữ ủy quyền đại lý nắm bắt ý tưởng này: giống như các phiên người dùng trải qua kiểm tra danh tính và quyền, các đại lý AI nhận được một kiểm tra tương đương. Các tài liệu khởi động YC mô tả cách tiếp cận của Alter ngắn gọn: nó bao bọc mọi cuộc gọi công cụ trong xác thực mạnh mẽ, ủy quyền tinh tế và hàng rào thời gian thực. Trong thực tế, điều đó có nghĩa là một đại lý LLM không thể phát hành một truy vấn dữ liệu hoặc thực hiện một giao dịch mà không có sự chấp thuận của Alter. agent authorization Dưới nắp, Alter chuyển đổi mục đích chính sách thành các điều khiển cấp thấp này. Ví dụ, một người dùng doanh nghiệp có thể viết một chính sách gán vai trò và chức năng cấp cao cho các đại lý. Trình biên dịch của Alter dịch điều này thành các bộ lọc cấp hàng và cột trên truy vấn cơ sở dữ liệu, và thậm chí là kiểm tra các thông số yêu cầu. Cách tiếp cận này cung cấp : hệ thống không chỉ nói có hoặc không, mà còn thực thi dữ liệu và hành động nào được phép ở cấp độ hàng hoặc trường riêng lẻ. theo Dodhia, hệ thống được thiết kế để ngăn chặn các hoạt động rủi ro, chẳng hạn như xóa cơ sở dữ liệu hoặc giao dịch không mong muốn, bằng cách áp dụng các biện pháp bảo vệ dựa trên chính sách. fine-grained policy for LLMs Một lời hứa cốt lõi của Alter là chặn các lệnh đại lý nguy hiểm trong thời gian thực. Vì các đại lý AI có thể chế tạo hoặc giải thích sai các đầu ra, như Dodhia lưu ý, các doanh nghiệp lo lắng về hành vi gian lận. Alter giải quyết điều này bằng cách kiểm tra mọi yêu cầu chống lại công cụ chính sách. Ví dụ, các quy tắc chính sách của Alter tự động hạn chế các nỗ lực truy cập vượt quá các quyền hạn được xác định hoặc giới hạn giao dịch, giúp ngăn chặn các hoạt động không mong muốn. Mô hình bảo mật của Alter được xây dựng để giảm thiểu nguy cơ các lệnh có hại đến sản xuất, sử dụng các chính sách hạn chế tiếp xúc với dữ liệu tiềm năng hoặc lỗi tài chính. Mỗi cuộc gọi API sử dụng một mã thông báo tạm thời với các đặc quyền có phạm vi hẹp; một khi được sử dụng, Thiết kế này phản ánh hệ thống phân tán của Dodhia: giống như một công cụ truy vấn nhanh phân tách công việc qua các mảnh, việc thực thi của Alter được phân phối. Mỗi công cụ (cơ sở dữ liệu, API, dịch vụ đám mây) kết nối thông qua lớp điều khiển. Nền tảng thậm chí hỗ trợ các công cụ đa đám mây (MCP) và tích hợp bản địa, với đại lý-to- đại lý (A2A) sắp đến. Sự lựa chọn là trung lập với nhà cung cấp là có chủ ý. Dodhia và đồng sáng lập của ông nhấn mạnh sự cần thiết cho , bảo mật hoạt động cho dù một công ty sử dụng AWS, GCP, hoặc các hệ thống tại chỗ. Điều này bắt nguồn từ việc phục vụ người mua tuân thủ mà sợ bị khóa vào các cơ chế của một đám mây.Bằng cách giữ cho bảng điều khiển chung, Alter cho phép khách hàng áp dụng các đại lý AI mà không cần viết lại tất cả các chính sách truy cập của họ. neutral, vendor‑agnostic infrastructure Tất nhiên, việc chặn mọi hành động của đại lý đi kèm với sự thỏa hiệp. Có thêm sự chậm trễ từ xác thực và đánh giá chính sách. Nhóm phát hiện ra rằng việc duy trì các chính sách chỉ dưới dạng mã là quá tập trung vào nhà phát triển. Thay vào đó, họ đã đầu tư vào một UI chính sách hướng tới các nhóm bảo mật và người dùng doanh nghiệp. Nó trình bày các chính sách một cách đơn giản để các bên liên quan phi kỹ thuật cũng có thể xác định chúng. Một bài học Dodhia làm nổi bật: Người sử dụng các chính sách này thường là kiểm toán viên hoặc nhân viên tuân thủ, không phải là kỹ sư. Điều đó đòi hỏi UX phải rõ ràng và có thể xác minh. Thực thi thời gian thực cũng đòi hỏi hiệu quả; kiểm tra chính sách phải kết thúc trong milliseconds. Alter làm giảm tác động bằng cách sử dụng trong các cài đặt cao. AI access control Sự phức tạp của tích hợp là một thách thức khác. Alter phải ngồi cạnh hàng chục công cụ và khuôn khổ đại lý tiềm năng. Kinh nghiệm trong quá khứ của Dodhia đã giúp anh ta: tại Compute.ai, anh ta đã xây dựng các kết nối với các kho dữ liệu phổ biến theo yêu cầu cấp độ dịch vụ chặt chẽ. Tương tự như vậy, Alter cung cấp các kết nối và SDK để các nền tảng đại lý hiện có (OpenAI, Anthropic, v.v.) có thể gọi vào cổng của Alter. Hy vọng là làm cho Alter chủ yếu minh bạch một khi được cấu hình – lý tưởng, một lớp không bị trầy xước. Một chủ đề lặp đi lặp lại trong câu chuyện của Dodhia là tuân thủ. Phục vụ ngành tài chính, và bạn học được rằng các đường dẫn kiểm toán và các kiểm soát bảo mật tích hợp là không thể đàm phán. Tại Compute.ai, anh ta phải chứng minh nguồn gốc của mọi công việc; tại Alter, anh ta đã nướng khả năng kiểm toán vào ngày đầu tiên. Nền tảng ghi lại mọi yêu cầu và quyết định của đại lý, bề mặt nó trong một bảng điều khiển sẵn sàng cho CISO. Ví dụ, Alter có thể báo cáo “Agent X yêu cầu một cơ sở dữ liệu hồ sơ khách hàng với tham số Y lúc 3:14 chiều, và bị từ chối theo quy tắc chính sách Z.” Sự minh bạch này là một điểm bán hàng quan trọng. Dodhia lưu ý rằng người mua tuân thủ mong đợi bằng chứng ít ưu đãi nhất và Một số bài học phát sinh từ sự nhấn mạnh của Dodhia về sự tuân thủ. Điều đó ảnh hưởng đến Alter để tránh các giải pháp AI ma thuật; mỗi quyết định truy cập là xác định và có thể ghi lại. Thứ hai, bảo mật cho các đại lý AI không thể là một suy nghĩ sau. “Khi bạn chạy trong môi trường được quy định,” Dodhia nói, “bạn không thể đập vào bảo mật ở cuối, nó phải là cốt lõi của kiến trúc.” Đó là lý do tại sao Alter được xây dựng từ đầu như một nền tảng không tin tưởng cho AI: chính tên và thiết kế của nó là về việc loại bỏ sự tin tưởng ngụ ý. và thứ ba, tính linh hoạt là quan trọng. các doanh nghiệp thường có các bộ công nghệ không đồng nhất, vì vậy cách tiếp cận trung lập của Alter (ví dụ, hỗ trợ bất kỳ công cụ đám mây hoặc trên cơ sở) đảm bảo khách hàng không bị buộc phải thay thế cơ sở hạ tầng chỉ để thêm auditable by design Sự chuyển đổi của Kevan Dodhia từ các công cụ tính toán phân tán sang các nền tảng bảo mật đại lý minh họa cách kinh nghiệm kỹ thuật sâu sắc có thể giải quyết các rủi ro AI mới nổi.Alter là một bước nhảy vọt về mặt kỹ thuật và khái niệm: nó biên soạn các chính sách trực quan thành các điều khiển cấp thấp, áp dụng sự nghiêm ngặt của kiểm soát truy cập cơ sở dữ liệu cho các đại lý AI. , nó ngăn chặn một tai nạn duy nhất của leo thang. zero-trust for AI agents Kết quả phù hợp với mục tiêu của Dodhia: làm cho các đại lý AI an toàn cho sản xuất bằng cách hạn chế họ truy cập tối thiểu và thời gian họ yêu cầu. hành trình của ông nhấn mạnh rằng trong an ninh, và đặc biệt là trong các môi trường tuân thủ, kiến trúc và nhu cầu của con người phải được đồng bộ. Như Dodhia nói, Alter là về việc cho phép các nhóm di chuyển nhanh trên các sáng kiến của các đại lý AI trong khi vẫn tuân thủ đầy đủ. Trong thực tế, điều này có nghĩa là xây dựng bảo mật mã hóa ý định chính sách, tôn trọng người dùng phi kỹ thuật và cung cấp cho các kiểm toán viên chính xác những gì họ cần: bằng chứng rằng không có đại lý nào từng hành xử sai.

This story contains new, firsthand information uncovered by the writer.

Nghe bài viết này bằng Tiếng Anh, đọc bởi robot thông minh của HackerNoon

Kevan Dodhia's Builder's Journey để tạo ra lớp chính sách mới cho các đại lý AI

About Author

BÌNH LUẬN

chuyên mục

BÀI VIẾT NÀY CŨNG CÓ MẶT TẠI

Related Stories

287 Stories To Learn About Blockchain Development

184 Stories To Learn About Psychology

178 Stories To Learn About Essay

189 Stories To Learn About Reading Books

287 Stories To Learn About Blockchain Development

184 Stories To Learn About Psychology

178 Stories To Learn About Essay

189 Stories To Learn About Reading Books

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps