Kako se granica između AI automatizacije i autonomne agencije zamagljuje, pojavljuje se nova tehnička granica, pouzdani, provjerljivi agenti koji mogu djelovati neovisno diljem ekosustava. , kako bi istražili što ova promjena znači za budućnost inteligentne infrastrukture, koje probleme rješava i kako bi programeri i tvrtke trebali drugačije razmišljati o računanju na bazi agenata. Izlazak Za početak, možete li objasniti što su "Povjereni AI agenti" zapravo u vašem okviru, i kako se razlikuju od tipičnih AI agenata koje vidimo u automatizaciji ili proizvodima zasnovanima na LLM-u? Ishan Pandey: Svi znamo da su AI agenti novi sučelje. Oni mijenjaju način na koji stvaramo, gradimo i surađujemo. Ali da bi se razmjerili, agenti trebaju jednu stvar: povjerenje. Privatnost nije pregovarajuća. Agenti rade s osjetljivim podacima: privatnim pozivima, kripto sredstvima, novčanicama. Bez privatnosti nema povjerenja, a bez agenata za povjerenje se ne razmjerava. Zato se pouzdani AI agenti pokreću u potpunosti unutar sigurnih enklava kao što je Intel TDX. Naš konfidencijalni računalni sloj zadržava svoju logiku, podatke i akcije privatne, čak i od domaćina, dok generiraju provjerljive dokaze o izvršenju. Za razliku od tipičnih LLM-ovih agenata koji se oslanjaju na Matthieu Jung: Suradnja između iExeca i Eliza OS-a čini se da spaja infrastrukturu privatnosti s autonomnim računanjem.Kako tehnički postižete i provjerljivost i povjerljivost? Ishan Pandey: To je veliko pitanje, i to je središnje za ono što čini Trusted AI Agents različitim. tenzija između povjerljivosti i provjerljivosti stvarna je u većini arhitekture, ali ne i u našoj. Matthieu Jung: S stackom ElizaOS x iExec, koristimo Trusted Execution Environments (TEEs), posebno Intel TDX, kako bismo izolirali ne samo logiku agenta izgrađenu s ElizaOS-om, već i sam model AI, onaj koji se koristi za obuku ili finitizaciju agenta. To je ključno. To znači da je cijelo okruženje za radno vrijeme, uključujući i logiku i osjetljive parametre modela, zaštićeno od vanjskog pristupa, čak i od hostova u oblaku ili administratora sustava. Istodobno, ti enklavi generiraju kriptografske dokaze koji potvrđuju integritet izvršenja. Na taj način postižemo provjerljivost: svatko može provjeriti što je izvršeno, a da ne vidi kako to radi. Nema potrebe odabrati između izlaganja mod U svijetu u kojem se mnoge AI startupe uvelike oslanjaju na centralizirane API-je i zatvorene modele, što je potrebno za izgradnju autonomnih agenata koji su decentralizirani dizajnom? Ishan Pandey: Uz povjerljivo računanje, iExec olakšava dokazivanje svake akcije na lancu. iExec je upravo pokrenuo iApp generator, razvojni alat koji omogućuje programerima da grade i implementiraju povjerljive aplikacije u nekoliko minuta. Matthieu Jung: Kako pomoćni agenti infrastrukture iExec dokazuju svoj rad, stanje ili logiku vanjskim stranama? Ishan Pandey: iExec pokreće agente unutar Intelovih TDX enklava koji stvaraju potpisane dokaze o kodu, ulazima i izlazima. Ti dokazi mogu biti podijeljeni na lancu tako da svatko može provjeriti identitet enklave i potvrditi da je agent uradio točno ono što je obećao, bez ikada otkrivanja privatnih podataka ili koda. Matthieu Jung: Koji je potencijalni nedostatak dopuštanja autonomnim AI agentima da rade preko lanca ili aplikacija? Ishan Pandey: Dopuštajući agentima da se kreću kroz lance ili aplikacije, nastaju nove površine napada i neočekivane interakcije. Buga u jednom protokolu mogla bi se prebaciti u drugu.Plus, bez jasnih standarda, dokazivanje odgovornosti ili obnavljanje loših akcija postaje teško.To je razlog zašto je povjerenje i upravljanje još uvijek važno kada je riječ o decentraliziranim agentima i automatizaciji akcija na blokčeinu. Matthieu Jung: Možete li nas proći kroz hipotetički primjer ili slučaj korištenja u kojem se pouzdan AI agent raspoređuje u divljini, što radi, kako dokazuje svoju izvedbu i zašto je bolji od tradicionalnih modela? Ishan Pandey: Zamislite AI agente koji trguju za vas, upravljaju DeFi strategijama, čitaju signale, postavljaju trgovine i prilagođavaju portfelje. On mora komunicirati s osjetljivim podacima i sredstvima poput vašeg privatnog ključa ili novčanika. S iExec-om, logika agenta teče povjerljivo u TEE-u. Trgovci mogu zaštititi svoje skupove podataka, sigurno dijeliti pristup s modelom, pa čak i primati povjerljive alarme. Svaka trgovina i svaka odluka izvršava se sigurno i provjerljivo. Oni čak mogu monetizirati svoje privatne trgovinske podatke. Matthieu Jung: Konačno, za graditelje i ulagače koji gledaju da se narativ Trusted AI Agenta razvija, koje su signale na koje bi trebali obratiti pažnju tijekom sljedećih 12 mjeseci? Ishan Pandey: Već znamo da su agenti novi sučelje. I, nažalost, to znači da ćemo početi vidjeti curenje upozorenja o agentima i izlaganja podacima, a to će naglasiti zašto je privatna izvedba važna. Još jedna inovacija koja će agente odvesti na sljedeću razinu je MCP ili Model Context Protocol. To omogućuje agentima da sigurno dijele šifrirane trenutne snimke svog radnog stanja dok se kreću i iteriraju u više aplikacija. iExec je već raspoređivao MCP server. Ovi trendovi će otkriti tko stvarno gradi decentralizirane, agente s prioritetom za privatnost u usporedbi s onima koji su još uvijek povezani s zatvorenim API-jima. Matthieu Jung: Ne zaboravite voljeti i dijeliti priču!

This story contains new, firsthand information uncovered by the writer.

The writer was physically present in relevant location(s) to this story. The location is also a prevalent aspect of this story be it news or otherwise.

Winner of Noonies 2020 for the award Hacker Noon Contributor of the Year - DATA.

2020 - Hacker Noon Contributor of the Year in DATA

Read My Stories

Ovaj zvuk je proizveden na izvornom jeziku priče!

Otključavanje autonomne umjetne inteligencije: Matthieu Jung iz iExeca o izgradnji povjerenja u decentraliziranu budućnost

About Author

KOMENTARI

VIJESI OZNAKE

OVAJ ČLANAK JE PREDSTAVLJEN U

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps