Nếu bạn đã bao giờ dán mã độc quyền vào trợ lý AI lúc 2 giờ sáng, bạn đã trải qua những căng thẳng mà AI bí mật được thiết kế để giải quyết. AI lan truyền qua các tổ chức theo cách bảng tính: lặng lẽ, ở khắp mọi nơi, và nhanh hơn so với việc quản trị có thể theo kịp. Sự tiện lợi này mở rộng bán kính nổ của một vi phạm. Chi phí vi phạm toàn cầu trung bình đến $4.88M vào năm 2024, tăng 10% so với năm trước. Chỉ trong H1 2025, 1,732 vi phạm Hơn 165 triệu bản ghi âm. hoa hồng phơi bày hoa hồng phơi bày Vấn đề là, bảo mật truyền thống xử lý hai trạng thái tốt: dữ liệu trong trạng thái nghỉ ngơi và dữ liệu trong quá trình vận chuyển, nhưng không phải dữ liệu đang được sử dụng. trạng thái thứ ba này: nó giúp mã hóa thông tin trong bộ nhớ và xử lý nó chỉ bên trong một môi trường thực thi đáng tin cậy (TEE): một khu vực cô lập phần cứng mà ngay cả các nhà khai thác cũng không thể nhìn vào. đi sau đi sau Nếu bạn có thể chứng minh từ xa nơi tính toán xảy ra và xác nhận không ai bị thao túng với nó, "trust" trở thành một tài sản có thể kiểm tra của stack. Lỗ hổng mà chính sách không thể đóng Các nhà phát triển đang vận chuyển nhanh hơn bao giờ hết, và AI là chất tăng tốc. Nhưng đầu ra nhanh, được hỗ trợ bởi AI có thể khó kiểm toán và dễ triển khai với rủi ro vô hình, đặc biệt là khi nguồn gốc và trách nhiệm mờ nhạt. Những hạn chế an ninh, không thể. Không hoàn toàn nội bộ hóa Không hoàn toàn nội bộ hóa Nghiên cứu gần đây của Keysight về tiết lộ PII Làm thế nào dễ dàng thông tin nhạy cảm (những loại công ty ít nhất muốn xuất hiện trong nhật ký hoặc hệ thống của bên thứ ba) có thể rò rỉ thông qua lời nhắc và đầu ra mô hình. hiện đang đối xử với "những gì rò rỉ trong lời nhắc" như một cái gì đó có thể đo lường, có thể tấn công, và ngày càng được quy định. lá cờ Đội An ninh lá cờ Đội An ninh Trong khi đó, trộm cắp thông tin xác thực vẫn rất hiệu quả.Trong các cuộc tấn công ứng dụng web cơ bản, khoảng 88% các vụ vi phạm liên quan đến thông tin xác thực bị đánh cắp.Nếu vi phạm hiện đại thường bắt đầu với "người nào đó đã đăng nhập", thì đẩy công việc nhạy cảm hơn vào nhiều công cụ hơn không chỉ thêm rủi ro, nó nhân lên. Trong các triển khai tiêu chuẩn, lời nhắc và bối cảnh phải tồn tại trong văn bản đơn giản ở đâu đó để được xử lý. Bạn có thể chỉnh sửa. Bạn có thể lọc. Nhưng ở đâu đó trong stack, dữ liệu phải có thể đọc được, có nghĩa là nó dễ bị tổn thương. Máy tính bí mật thay đổi đường cơ sở đó bằng cách chạy tải công việc bên trong các môi trường phần cứng bị cô lập giữ dữ liệu và mã được bảo vệ trong quá trình thực hiện. Điều này làm giảm những người (hoặc những gì) có thể quan sát quá trình, bao gồm cả các lớp cơ sở hạ tầng đặc quyền. Cá cược của Qatar: AI bí mật nhận được vật lý Cách nhanh nhất để biết liệu một thể loại có thực hay không là theo dõi tiền và megawatt đi đâu. Qatar một trung tâm dữ liệu AI bí mật đại diện cho một trong những biểu hiện vật lý đầu tiên của sự thay đổi này. cơ sở sẽ sử dụng chip tính toán bí mật (bao gồm cả phần cứng Nvidia) để giữ dữ liệu được mã hóa thông qua mọi giai đoạn xử lý. dự án, với khoản đầu tư ban đầu là 183 triệu đô la và tham vọng sẽ mở rộng theo thời gian. Xây dựng là Họ hợp tác Xây dựng là Họ hợp tác Vai trò của OLLM đặc biệt quan trọng ở đây bởi vì có một sự khác biệt giữa tuyên bố hỗ trợ cho AI bí mật và thực sự xây dựng cơ sở hạ tầng cần thiết để hỗ trợ nó. : một API tổng hợp quyền truy cập vào nhiều nhà cung cấp và mô hình AI trong khi cung cấp các bảo đảm bảo mật có thể xác minh. Cổng Gateway Cổng Gateway "Tính bảo mật AI" là một cụm từ dễ dàng để nhấn vào một trang đích.Vì vậy, bài kiểm tra độ tin cậy rất đơn giản: bạn có thể chứng minh điều đó không? Một sự khác biệt mà OLLM nhấn mạnh là một tư thế bí mật-chỉ tính toán kết hợp với Zero Data Retention (ZDR): các mô hình được triển khai trên chip tính toán bí mật, và nền tảng được thiết kế để không giữ lời nhắc hoặc đầu ra. Dữ liệu duy nhất mà OLLM giữ là cần thiết về mặt hoạt động (và cố ý không có nội dung), chẳng hạn như tiêu thụ token cộng với nhật ký chứng nhận TEE không liên quan đến người dùng hoặc dữ liệu người dùng, vì vậy các chứng chỉ có thể được hiển thị công khai cho tính minh bạch trong bảng điều khiển OLLM. Đó là sự thay đổi triết học: đối xử với “dịch vụ truy cập mô hình” như cơ sở hạ tầng quan trọng, nơi giảm thiểu dữ liệu bị giữ và thực hiện có thể xác minh là yêu cầu sản phẩm hạng nhất, không phải là ghi chú của Olm Với Phala là câu chuyện "bằng chứng" rõ ràng nhất hiện nay. nó mở rộng dấu ấn của nó thông qua cơ sở hạ tầng AI bí mật của Phala, nơi tải công việc chạy bên trong TEE (bao gồm Intel TDX, AMD SEV, và máy tính bí mật GPU lớp Nvidia H100 / H200). điều đó quan trọng bởi vì mỗi kết luận có thể tạo ra một chứng chỉ mã hóa cho thấy nó chạy trên phần cứng TEE thực sự, không phải trên một VM tiêu chuẩn với chính sách tin cậy. Hợp tác Hợp tác NEAR AI cũng đang xây dựng cơ sở hạ tầng suy luận tư nhân được cung cấp bởi TEEs. Điều này có nghĩa là các nhà phát triển có thể nghĩ về suy luận bí mật như một nguyên thủy có thể ghép lại (Phala là một con đường; suy luận tư nhân của NEAR AI là một cách khác). Bottom Line: Tại sao các nhà phát triển nên quan tâm Đối với các nhà phát triển, AI bí mật có thể mở khóa các dòng công việc trước đây khó khăn, rủi ro hoặc bị mắc kẹt trong limbo đánh giá bảo mật. Nó trực tiếp mở rộng nơi AI có thể được sử dụng trong thực tế. Dữ liệu độc quyền như sách vở nội bộ, thiết kế sản phẩm, trí thông minh cạnh tranh có thể đi qua các hệ thống AI mà không bị bắt trong các nhật ký của bên thứ ba. Đối với các ngành công nghiệp được quy định, sự thay đổi đó thậm chí còn có ý nghĩa hơn. Thay vì được yêu cầu "tin tưởng" cách dữ liệu được xử lý, các ngân hàng và nhà cung cấp chăm sóc sức khỏe có thể chỉ ra chứng chỉ mã hóa như bằng chứng, thay đổi các cuộc thảo luận tuân thủ từ tránh rủi ro sang triển khai có kiểm soát. Cùng một logic áp dụng bên ngoài môi trường được quy định nặng nề. Các nhóm chịu áp lực để vận chuyển nhanh chóng không đột nhiên trở nên ít tiếp xúc hơn khi một nguyên mẫu biến thành một sản phẩm. Thực hiện bí mật cho phép duy trì tốc độ lặp lại trong khi thu hẹp những gì kết luận có thể tiết lộ. Các đại lý AI bắt đầu quản lý thông tin, kích hoạt các cuộc gọi API và tương tác với các hệ thống nhạy cảm. Do đó, khả năng chạy chúng mà không phơi bày các hướng dẫn hoặc dữ liệu của họ, ngay cả đối với các nhà khai thác đang chạy cơ sở hạ tầng, trở thành một yêu cầu cơ bản chứ không phải là một tính năng tiên tiến. Khi AI được nhúng vào các dòng công việc thực tế, điểm yếu nhất trong stack không còn là lưu trữ hoặc vận chuyển, mà là thực hiện. Dữ liệu trong sử dụng là nơi thông tin nhạy cảm được phơi bày nhiều nhất và kiểm soát ít nhất. tính toán bí mật không giải quyết mọi vấn đề bảo mật, nhưng nó đóng một khoảng trống mà chính sách, hợp đồng và kiểm soát truy cập không thể.

This story contains new, firsthand information uncovered by the writer.

This writer has a vested interest be it monetary, business, or otherwise, with 1 or more of the products or companies mentioned within.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Nghe bài viết này bằng Tiếng Anh, đọc bởi robot thông minh của HackerNoon

Lớp thiếu trong bảo mật AI: Tại sao "dữ liệu đang được sử dụng" là chiến trường tiếp theo

About Author

BÌNH LUẬN

chuyên mục

BÀI VIẾT NÀY CŨNG CÓ MẶT TẠI

Related Stories

72 Stories To Learn About The Essays Of Adam Smith

223 Stories To Learn About Science

85 Stories To Learn About Travel

94 Stories To Learn About John Locke

72 Stories To Learn About The Essays Of Adam Smith

223 Stories To Learn About Science

85 Stories To Learn About Travel

94 Stories To Learn About John Locke

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps