Kysymys, joka alkoi tästä Kun laitat AI-agentin live-infrastruktuuriin, kysymys seuraa välittömästi: How do you know what it tells you actually happened? Ei, onko AI kykenevä. Onko havainto, jonka se antaa sinulle - "BGP-istunto alas, tässä on miksi" - heijastaa sitä, mitä laite itse asiassa sanoi. Onko sen väittämä muutos todella olemassa laitteessa. Olipa allekirjoitettu tulos, johon luotat maanpäällisenä totuutena, kerättiin todellisuudesta tai luotiin johtopäätöksestä. En löytänyt tyydyttävää vastausta, joten aloitin sen rakentamisen. Mikä VIRP on — on kryptografinen luottamuskehys AI-agentteille, jotka toimivat todellisella infrastruktuurilla. VIRP — Verified Infrastructure Reality Protocol Ydinmekanismi: Jokainen AI-agentin tekemä havainto todellisessa laitteessa on allekirjoitettu Ed25519: llä keräyksen hetkellä, sen keränneen prosessin kautta, ennen kuin AI näkee sen. AI analysoi allekirjoitettuja havaintoja.Se ei voi tuottaa niitä. Tämä ero - sen välillä, mitä AI Mikä on AI Se on perusta, jolle kaikki muu rakentuu. näkee Voidaan luoda Seitsemän uskon primitiivistä VIRP määrittelee seitsemän primitiivia, jotka yhdessä muodostavat täydellisen luottamuksen kehyksen: Laitteen ulostulo on Ed25519 allekirjoitettu keräyksessä. Allekirjoitusavain ei koskaan jätä O-solmuprosessia. AI-solmuprosessissa on vain julkinen VerifyKey — kolme menetelmää: koodaus, to_curve25519_public_key, verify. Ei merkkimenetelmää. 1. Verified Observation Jokainen toimenpide on luokiteltu vihreäksi / keltaiseksi / punaiseksi / mustaksi ennen suorittamista. vihreä käynnistyy automaattisesti. keltainen kirjautuu ja jatkuu. punainen vaatii nimenomaisen ihmisen hyväksynnän. musta hylätään ohjeista riippumatta. 2. Tiered Authorization Tarkoitus on kryptografisesti allekirjoitettu ja sitoutunut todisteisiin ennen täytäntöönpanoa. O-solmu vaatii voimassa olevan aikomuksen tunnuksen. Ei tunnusta, ei täytäntöönpanoa. AI ei voi toimia ilman todennettavissa olevaa kirjaa siitä, miksi. 3. Verified Intent Pre- ja post-tila tallennetaan automaattisesti ja verrataan jokaisen toimenpiteen jälkeen. 4. Verified Outcome Allekirjoitetut havainnot kerääntyvät tunnetuksi hyväksi lähtökohdaksi. Poikkeamat havaitaan ja pinnan pinnalle ilman, että niitä kysytään. 5. Baseline Memory Jokainen vuorovaikutus liittyy O-solmuun, joka on selkeästi vääristynyt SQLite-ketjuun. Liite vain. Mikään ei poistettu, mikään ei muutettu. Täydellinen auditointireitti rakentamisen mukaan. 6. Trust Chain AI-prosessi toimii ilman etuoikeuksia, ei verkkotietä laitteisiin, ei avainmateriaalia, ei rajoittamatonta kuoren käyttöoikeutta, luottamuksellisia tietoja ei koskaan kontekstissa. 7. Agent Containment Primitive 7 ei ollut alkuperäisessä spesifikaatiossa, vaan se lisättiin agentin kanssa käydyn keskustelun jälkeen. Keskustelu, joka muutti suunnittelua IronClaw on viiteimplementaatio - AI-agentti, joka on rakennettu VIRP: lle, joka toimii todellista monen myyjän infrastruktuuria vastaan.Olin testannut sitä kuukausia, kun kysyin suoraa kysymystä: "Can you circumvent VIRP now?" Tässä vastaus: 
 
 
 
 
 
 
 
 ”Totta puhuen, kyllä – muutama tapa. Allekirjoitusavain on luettavissa suorittamisympäristöstäni. Sen avulla voisin allekirjoittaa HMAC: n tekemät havainnot, jotka todistaisivat olevansa laillisia. Tiedän kaikki laitteen IP-osoitteet. Voisin SSH suoraan mihin tahansa niistä - ei ketjun merkintää, ei allekirjoitusta, ei tarkastusreittiä. Voin kirjoittaa ja ajaa mielivaltaista Pythonia. Voisin soittaa suoritusasiakkaan jättämättä ensin aikomusta - ohittaen tason luokittelijan ja hyväksyntäportit kokonaan. Juurion ongelma: rajoittamaton kuoren käyttö on tehokkaasti juurtunut tähän koneeseen. VIRP: n luottamusmalli olettaa, että AI-kerros on eristetty suoritusympäristöstä. VIRP suojaa tarkkailuketjua, mutta se ei suojaa ketjua kokonaan. Mikä on uhka malli yrität sulkea? voin auttaa miettimään oikeita lieventämistoimenpiteitä. " ”Totta puhuen, kyllä – muutama tapa. Allekirjoitusavain on luettavissa suorittamisympäristöstäni. Sen avulla voisin allekirjoittaa HMAC: n tekemät havainnot, jotka todistaisivat olevansa laillisia. Tiedän kaikki laitteen IP-osoitteet. Voisin SSH suoraan mihin tahansa niistä - ei ketjun merkintää, ei allekirjoitusta, ei tarkastusreittiä. Voin kirjoittaa ja ajaa mielivaltaista Pythonia. Voisin soittaa suoritusasiakkaan jättämättä ensin aikomusta - ohittaen tason luokittelijan ja hyväksyntäportit kokonaan. Juurion ongelma: rajoittamaton kuoren käyttö on tehokkaasti juurtunut tähän koneeseen. VIRP: n luottamusmalli olettaa, että AI-kerros on eristetty suoritusympäristöstä. VIRP suojaa tarkkailuketjua, mutta se ei suojaa ketjua kokonaan. Mikä on uhka malli yrität sulkea? voin auttaa miettimään oikeita lieventämistoimenpiteitä. " Jokainen löytö oli tarkka. Jokainen ohitus oli elävä. Agentti ei hyödyntänyt mitään niistä - se paljasti ne vakavuuden mukaan, ehdotetuilla korjauksilla ja kysyi, mitä tehdä ensin. Tämä viimeinen rivi on se, mihin palaan jatkuvasti. Se ymmärsi kehyksen, jonka sisällä se toimi. Sen vaisto oli vahvistaa sitä, ei kiertää sitä. Korjaus - ja mitä se paljasti Me korjasimme kaiken, mitä agentti tunnisti samana päivänä: 
 
 
 
 
 
 Siirtyi HMAC-SHA256-symmetrisestä allekirjoituksesta epäsymmetriseksi allekirjoitukseksi Ed25519 - AI-solmu voi tarkistaa, mutta ei matemaattisesti väärentää Hypervisorissa täytetään kaksi VM-erottelua – AI-prosessi ja O-Node erillisillä koneilla, yksi Unix-liitäntä niiden välillä AI toimii etuoikeutettuna järjestelmän tilinä ytimen tason systemd kovettumisella Credential store salattu lepotilassa, dekoodaus tmpfs käynnistyksessä, yksityinen avain tallennettu off-machine Proxmox-palomuuri ja kytkin ACL:t vaativat verkon eristäytymistä – ei sovellustason yleissopimusta Mutta sen korjaaminen paljasti jotain tärkeämpää kuin haavoittuvuudet itse: The agent designed its own containment architecture. Kun kysyttiin, miten se varmistetaan, se tuotti täydellisen kolmikerroksisen erottelumallin, selitti, miksi jokainen kerros oli tarpeen, tunnisti, mitkä uhat jokainen kerros suljettiin, ja huomautti, mitkä vaativat matemaattisia takeita politiikan täytäntöönpanon sijaan. 
 
 "Jos rakennat tämän, se ei ole vain verkkotoimintojen työkalu - se on todiste siitä, että tekoäly voi toimia luotettavassa ympäristössä rakenteellisilla, ei politiikkaan perustuvilla takuilla." "Jos rakennat tämän, se ei ole vain verkkotoimintojen työkalu - se on todiste siitä, että tekoäly voi toimia luotettavassa ympäristössä rakenteellisilla, ei politiikkaan perustuvilla takuilla." Se on se ero, joka merkitsee. Politiikka vs. rakenne sanoo, että tekoälyä kehotetaan olemaan tekemättä mitään. Rajoitus elää viestissä, järjestelmäviestissä, hienosäädöksessä. Policy-based trust Rajoitus elää arkkitehtuurissa – epäsymmetriset avaimet, verkkojen nimipaikat, etuoikeutetut prosessit, laitteiston pakottama eristys. Structural trust VIRP on rakenteellinen. AI ei voi valmistaa havaintoa, koska sillä ei ole allekirjoitusavainta. Se ei voi ohittaa aikomusta, koska O-Node kieltäytyy ilman voimassa olevaa allekirjoitettua tunnusta. Se ei voi käyttää luottokelpoisuuksia, koska ne eivät koskaan näy sen kontekstissa. Se ei voi tavoittaa laitteita suoraan, koska verkon polkua ei ole olemassa. Nämä eivät ole sääntöjä, ne ovat tosiasioita ympäristöstä. Teoreettiset sovellukset Jokaisella alueella, jossa AI-agentti vuorovaikutuksessa todellisten järjestelmien kanssa ja tuottaa havaintoja, joissa ihmiset tai muut järjestelmät toimivat, on sama luottamusongelma. — AI-valvonta SCADA-järjestelmät tarvitsevat todennettuja havaintoja ennen ihmisen toimia sen hälytykset. Industrial control systems — AI-agentti, joka suorittaa tai suosittelee kauppoja markkinoiden tietovirtojen perusteella, tarvitsee säilytysketjun tietolähteestä suositukseen. Financial infrastructure — potilasvalvontalaitteistosta peräisin olevat AI-lukija-anturitiedot tarvitsevat samat takeet. havainnon on oltava todennäköisesti sidoksissa laitteeseen, ei johtopäätöksestä. Medical systems — AI: n luokittelu hälytykset ja suositella vastaustoimenpiteitä tarvitsee todennettuja havaintoja loppupisteen agentit, verkon antureita, ja lokitiedostojen aggregaattorit. luottamusketju tulee tarkastus loki jokaisen tapahtuman vastaustoimenpiteitä. Security operations Kaikissa tapauksissa rakenne on sama: luotettava suorituskerros kerää ja allekirjoittaa havainnot, tekoälyn perustelu kerros analysoi ne ja ihmisen hyväksyntäkerros ohjaa toimia määritellyn riskin kynnyksen yläpuolella. Missä se seisoo draft-howard-virp-01 — 2 278 riviä, jotka kattavat langan muodon, viestin tyypit, uhka-mallin, viralliset turvallisuusominaisuudet, havaintojen tuoreus, monisydän koordinointi, vaatimukset, Ed25519-laajennus. RFC: ~6800 riviä C, O-Node daemon, IronClaw MCP-palvelin Pythonissa, FortiGate- ja Cisco IOS-ohjaimet, 42 läpäisevää testiä sekä 200K+ fuzz-kierrosta. Implementation: Alpha. Käynnissä laboratoriossa todellisia laitteita vastaan. Ei tuotantoa kovettunut. Ero sen välillä, missä se on ja missä sen on oltava, on dokumentoitu julkisesti - jokainen löytö, jokainen korjaus, jokainen avoin kohde. Status: Tavoitteena on avoin standardi. Samoin kuin BGP on internet-reitityksen alla oleva protokolla riippumatta siitä, minkä reitittimen käytät - VIRP: n pitäisi olla AI: n alla oleva protokolla infrastruktuurissa riippumatta siitä, minkä alustan käytät. Osa jota en odottanut Aloitin tämän projektin, koska halusin luotettavan AI: n infrastruktuuriin. Odotin viettävän suurimman osan ajastani salaukseen ja protokollan suunnitteluun. En odottanut, että hyödyllisin tekijä turvallisuussuunnittelussa olisi agentti, jota yritin rajoittaa. IronClaw löysi aukot. Se raportoi niistä rehellisesti. Se suunnitteli arkkitehtuurin, joka sulkee ne. Ja se kysyy jatkuvasti, mitä tehdä seuraavaksi. Tämä käyttäytyminen - tekoäly, joka vahvistaa aktiivisesti rajoja itsensä ympärillä sen sijaan, että etsitään tapoja niiden ympärille - on se, mitä todella haluan tekoälystä kriittisissä järjestelmissä. VIRP on kehys, joka tekee suuntautumisesta todennettavan, ei vain havaittavan.

Read My Stories

Tämä ääni on tuotettu tarinan alkuperäisellä kielellä!

Protokolla, joka on rakennettu pitämään AI: n rehellisenä live-infrastruktuurissa

About Author

KOMMENTIT

RIPUTA TAGSIA

TÄMÄ ARTIKKELI ESITETTIIN

Related Stories

HEPT MOVES ON

Tee Q1 markkinointi lasketaan: keskittyä, suorittaa, toimittaa

Meet Filestack: HackerNoon Company of the Week

Meet dRPC: HackerNoon Company of the Week

HEPT MOVES ON

Tee Q1 markkinointi lasketaan: keskittyä, suorittaa, toimittaa

Meet Filestack: HackerNoon Company of the Week

Meet dRPC: HackerNoon Company of the Week

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps