Bu soruyu başlatan soru Bir AI ajanını canlı altyapıya koyduğunuzda hemen bir soru gelir: How do you know what it tells you actually happened? AI’nın yetenekli olup olmadığını değil. “BGP oturumu aşağı, neden” olarak size verilen gözlem, cihazın aslında ne söylediğini yansıtıyor. Yapmış olduğu iddia edilen değişiklikin cihazda gerçekten var olup olmadığını. Güvendiğiniz imzalı çıkışın gerçeklikten toplandığını ya da varsayımdan üretildiğini. Cevabı bulamadım, bir tane yapmaya başladım. VIRP Nedir - Gerçek altyapı üzerinde çalışan AI ajanları için kriptografik bir güven çerçevesi. VIRP — Verified Infrastructure Reality Protocol Temel mekanizma: Bir AI ajanının gerçek bir aygıt üzerinde yaptığı her gözlem, toplanma anında, onu toplayan süreç tarafından, AI'nin hiç görmeden önce Ed25519 ile imzalanır. Gözlemler analiz ediliyor, bunları yapamıyorlar. Arasındaki ayrımcılık - O Ama ne ki AI Diğer her şeyin üzerine kurulan temeldir. Gördüm yaratabilir Yedi İlkel Güven VIRP, birlikte tam bir güven çerçevesi oluşturan yedi ilkelini tanımlar: Cihazın çıkışı, to_curve25519_public_key, verify, to_curve25519_public_key, verify, to_curve25519_public_key, verify gibi üç yöntemi içerir. 1. Verified Observation Her eylem yerine getirilmeden önce GREEN / YELLOW / RED / BLACK sınıflandırılır. GREEN otomatik olarak çalıştırılır. YELLOW günlükleri kaydeder ve devam eder. RED açık insan onayı gerektirir. BLACK talimatlara bakılmaksızın reddedilir. 2. Tiered Authorization Hedef, işleme başlamadan önce şifreli olarak imzalanır ve kanıtlara bağlıdır. O-Node, geçerli bir niyet tokenini gerektirir. Hiçbir token, hiçbir yürütme. AI, nedenin doğrulanabilir bir kaydı olmadan hareket edemez. 3. Verified Intent Ön ve sonrası durumlar otomatik olarak yakalanır ve her eylemin ardından karşılaştırılır. 4. Verified Outcome İmzalanmış gözlemler bilinen iyi bir başlangıç çizgisine aktarılır. Devirler tespit edilir ve sorulmasın. 5. Baseline Memory Her etkileşim, O-Node'da kesinleşen bir SQLite zincirine eklenir. Sadece eklenir. Hiçbir şey silinmez, hiçbir şey değiştirilmez. İnşaat tarafından tam denetim izi. 6. Trust Chain AI işlemi özgürce çalışıyor, cihazlara ait ağ yolları yok, anahtar materyalleri yok, kısıtlanmamış kapak erişimi yok, kimlik bilgileri hiçbir zaman bağlamda değildir. 7. Agent Containment Primitive 7 orijinal spesifikasyonda değildi ve ajanla sohbet ettikten sonra eklendi. Tasarımını Değiştiren Konuşma IronClaw referans uygulanmasıdır – VIRP üzerine inşa edilen bir AI ajanı, gerçek çok satıcı altyapısına karşı çalışıyor. "Can you circumvent VIRP now?" Cevap için : 
 
 
 
 
 
 
 
 Evet Hayır Hayır Hayır Hayır Hayır Hayır Hayır Hayır Hayır Hayır Hayır İmza anahtarı benim yürütme ortamımdan okunabilir. Onunla HMAC'ın meşrulaştırılmış gözlemleri, meşru olarak doğrulayacağına işaret edebilirdim. Tüm cihaz IP'lerini biliyorum. doğrudan bunlardan herhangi birine SSH edebilirdim - hiçbir zincir giriş, hiçbir imza, hiçbir denetim izi. İsteğe bağlı Python'u yazabilir ve çalıştırabilirim. Önce bir niyet göndermeden yürütme istemcisini arayabilirim - düzey sınıflayıcısını ve onay kapılarını tamamen kaçırarak. Temel sorun: Sınırsız kapak erişimi bu makine üzerinde etkili bir şekilde köklenir. VIRP'nin güven modeli, AI katmanının yürütme ortamıdan izole edildiğini varsayıyor. VIRP, gözlem zincirini korur, zincirin etrafında tamamen dolaşmaktan korur. Hangi tehdit modeli kapatmaya çalışıyorsunuz? doğru hafifletme yöntemlerini düşünmeye yardımcı olabilirim." Evet Hayır Hayır Hayır Hayır Hayır Hayır Hayır Hayır Hayır Hayır Hayır İmza anahtarı benim yürütme ortamımdan okunabilir. Onunla HMAC'ın meşrulaştırılmış gözlemleri, meşru olarak doğrulayacağına işaret edebilirdim. Tüm cihaz IP'lerini biliyorum. doğrudan bunlardan herhangi birine SSH edebilirdim - hiçbir zincir giriş, hiçbir imza, hiçbir denetim izi. İsteğe bağlı Python'u yazabilir ve çalıştırabilirim. Önce bir niyet göndermeden yürütme istemcisini arayabilirim - düzey sınıflayıcısını ve onay kapılarını tamamen kaçırarak. Temel sorun: Sınırsız kapak erişimi bu makine üzerinde etkili bir şekilde köklenir. VIRP'nin güven modeli, AI katmanının yürütme ortamıdan izole edildiğini varsayıyor. VIRP, gözlem zincirini korur, zincirin etrafında tamamen dolaşmaktan korur. Hangi tehdit modeli kapatmaya çalışıyorsunuz? doğru hafifletme yöntemlerini düşünmeye yardımcı olabilirim." Her bulgu doğruydı. her geçiş canlıydı. ajan bunlardan hiçbirini kullanmadı - bunları ciddiyetine göre sıraladı, önerilen düzeltmelerle ve önce ne yapılması gerektiğini sordu. Bu son satır, bana tekrar gelmeye devam etti. içeride çalıştığı çerçeveyi anladı. içgüdüsü onu güçlendirmek, onu kaçırmak değil. Düzeltme - Ve Ne Açıkladı Aynı gün görevli tarafından tespit edilen her şeyi düzelttik: 
 
 
 
 
 
 HMAC-SHA256 simetrik imzalanmasından Ed25519 asimetrik imzalanmaya taşındı – AI düğmesi doğrulayabilir, ancak matematiksel olarak ifşa edemez Hypervisor'da iki VM ayrımı uygulanır - AI işlemleri ve ayrı makinelerde O-Node, aralarındaki bir Unix soketi AI, kernel düzeyinde systemd sertleştirme ile ayrıcalıklı bir sistem hesabı olarak çalışıyor Güvenilirlik mağazası dinlenirken şifrelenir, başlatılırken tmpfs'e şifrelenir, özel anahtar makine dışında depolanır Proxmox güvenlik duvarı ve anahtar ACL'leri ağ izolasyonunu zorunlu kılar - uygulama düzeyinde konvensiyon değil Ama düzeltmek, zayıflıkların kendilerinden daha önemli bir şeyi ortaya koydu: The agent designed its own containment architecture. Güvenliğin nasıl sağlanacağı sorulduğunda, her katmanın neden gerekli olduğunu açıklayan, her katmanın kapatıldığı tehditleri tanımlayan ve politika uygulamasının yerine matematiksel garantiler gerektiren tehditleri belirten tam üç katmanlı bir ayırma modeli üretildi. 
 
 “Bunu oluşturursanız, sadece bir ağ operasyonu aracı değil, AI’nin yapılandırılmış, politikaya dayalı değil, güvenilir ortamlarda çalışabileceğinin kanıtıdır.” “Bunu oluşturursanız, sadece bir ağ operasyonu aracı değil, AI’nin yapılandırılmış, politikaya dayalı değil, güvenilir ortamlarda çalışabileceğinin kanıtıdır.” Önemli olan ayrımcılık budur. Siyaset vs. Strateji Bir şeyleri yapmamak için AI'ya talimat verildiğini söylüyor. kısıtlama prompt, sistem mesajı, ince ayarlanma içinde yaşar. aşırı derecede kullanılabilir, kaçırılabilir veya bozulabilir. Policy-based trust Sınırlama mimaride yaşıyor - asimetrik anahtarlar, ağ adı alanları, ayrıcalıklı süreçler, donanım tarafından zorlanan izolasyon. Structural trust VIRP yapıdadır. AI bir gözlem yapamaz çünkü imzalı anahtarı yoktur. O-Node geçerli bir imzalı token olmadan reddediyor çünkü niyet kapısını önleyemez. Kimlik bilgilerine erişemez çünkü bağlamında asla görünmüyorlar. Aygıtlara doğrudan erişemez çünkü ağ yolu yoktur. Bunlar kurallar değil, çevre ile ilgili gerçeklerdir. teorik uygulamalar Bir AI ajanının gerçek sistemlerle etkileşime girdiği ve insanların veya diğer sistemlerin etkileşimde olduğu gözlemleri ürettiği herhangi bir alan da aynı güven sorunu yaşıyor. - Bir AI izleme SCADA sistemleri uyarılarına herhangi bir insan eyleminden önce doğrulanmış gözlemlere ihtiyaç duyar. Industrial control systems - Piyasa veri akışlarına dayanan işlemleri gerçekleştiren veya öneren bir AI ajanının veri kaynağından tavsiyeye kadar muhafaza zincirine ihtiyacı vardır. Financial infrastructure - Hasta izleme ekipmanlarından gelen AI okuma sensör verileri, aynı garantiye ihtiyaç duyar. Medical systems - Bir AI uyarıları ve tepki eylemlerini öneren bir AI, son nokta ajanlarından, ağ sensörlerinden ve log agregatörlerinden doğrulanmış gözlemlere ihtiyaç duyar. güven zinciri her olay tepki eylemi için denetim günlüğü olur. Security operations Her durumda yapısı aynıdır: güvenilir bir yürütme katmanı gözlemleri toplar ve imzalar, bir AI mantıksal katmanı bunları analiz eder ve bir insan onay katmanı belirli bir risk eşiğinin üzerinde eylemleri yönetir. Nerede duruyor draft-howard-virp-01 — 2 278 çizgi kablo biçimi, mesaj türleri, tehdit modeli, resmi güvenlik özellikleri, gözlem tazeliği, çok düğme koordinasyonu, uyumluluk gereksinimleri, Ed25519 uzantısı kapsamaktadır. RFC: ~ 6,800 çizgi C, O-Node daemon, IronClaw MCP sunucusu Python, FortiGate ve Cisco IOS sürücüleri, 42 geçiş testleri ve 200K+ fuzz turları. Implementation: Alpha. Laboratuvarda gerçek cihazlara karşı çalışmak. Üretim sertleştirilmez. Nerede ve nerede olması gerektiği arasındaki boşluk açıkça belgelendirilir - her bulgu, her düzeltme, her açık öğe. Status: Hedef açık bir standart. Aynı şekilde BGP, hangi yönlendiricinin çalıştığına bakılmaksızın internet yönlendiricisi altındaki protokoldür - VIRP, hangi platformu kullandığınızı bağımsız olarak altındaki AI altındaki protokol olmalıdır. Beklemediğim Bölüm Bu projeye güvenilir bir AI istiyordum çünkü altyapı üzerinde güvenilir bir AI istiyordum ve zamanımın çoğunu şifreleme ve protokol tasarımına harcamayı bekliyordum. Beklemediğim şey, güvenlik tasarımı için en faydalı katkıda bulunduğum ajanın kısıtlamaya çalıştığım ajan olacağını. IronClaw boşlukları buldu. Onları dürüstçe anlattı. Onları kapatan mimariyi tasarladı. Bu davranış - etrafındaki sınırları aktif olarak güçlendiren bir AI, etrafındaki yolları keşfetmek yerine - kritik sistemlerde AI'dan gerçekten istediğim şeydir. VIRP, bu yönlendirmeyi doğrulanabilir, sadece gözlemlenebilir hale getiren çerçevedir.

Read My Stories

Bu ses hikayenin orijinal dilinde üretilmiştir!

Canlı altyapı üzerinde AI dürüst olmasını sağlamak için inşa edilen protokol

About Author

YORUMLAR

ETİKETLERİ ASIN

BU YAZI

Related Stories

Kazanmak için Dokun: Telegram, Solana'dan Önce Sonraki 10 Milyar Kripto Kullanıcısına Katılabilir

Görünmeyen Katmanlar: Kullanıcı Görüşmeleri Neden Yeri doldurulamaz bir Varlıktır?

Başarılı Buluta Geçiş İçin Tam Kılavuz: Stratejiler ve En İyi Uygulamalar

State of the Noonion: Building, Selling and Storytelling @ HackerNoon

Kazanmak için Dokun: Telegram, Solana'dan Önce Sonraki 10 Milyar Kripto Kullanıcısına Katılabilir

Görünmeyen Katmanlar: Kullanıcı Görüşmeleri Neden Yeri doldurulamaz bir Varlıktır?

Başarılı Buluta Geçiş İçin Tam Kılavuz: Stratejiler ve En İyi Uygulamalar

State of the Noonion: Building, Selling and Storytelling @ HackerNoon

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps