Ak ste niekedy vložili vlastný kód do asistenta AI o 2 ráno, už ste zažili napätie, ktoré je určené na riešenie dôvernej AI. AI sa šíri cez organizácie tak, ako to robili tabuľkové hárky: ticho, všade a rýchlejšie, než môže správa držať krok. Toto pohodlie rozširuje polomer výbuchu porušenia. priemerné celosvetové náklady na porušenie na 4,88 milióna dolárov v roku 2024, zvýšenie o 10% v porovnaní s predchádzajúcim rokom. Viac ako 165 miliónov záznamov. ružová vystavené ružová vystavené Faktom je, že tradičná bezpečnosť dobre zaobchádza s dvoma stavmi: dátami v pokoji a dátami v tranzite, ale nie dátami v používaní. tento „tretí stav“: pomáha šifrovať informácie v pamäti a spracovávať ich iba v dôveryhodnom prostredí vykonávania (TEE): hardvérovou izolovanou enklávou, do ktorej sa ani operátori nedokážu dostať. Pôjde po Pôjde po Ak môžete na diaľku dokázať, kde došlo k výpočtu a potvrdiť, že s ním nikto nebol manipulovaný, "dôvera" sa stáva kontrolovateľným majetkom hromady. Rozdiely, ktoré politika nedokáže prekonať Vývojári odosielajú rýchlejšie ako kedykoľvek predtým a AI je akcelerátorom. ale rýchly, AI-podporovaný výstup môže byť ťažké auditovať a ľahko nasadiť s neviditeľným rizikom, najmä keď je pôvod a zodpovednosť nejasné. Vaše bezpečnostné obmedzenia. to nemôže. Nie je úplne internalizovaný Nie je úplne internalizovaný Nedávny výskum spoločnosti Keysight o odhalení PII Ako ľahko môžu citlivé informácie (typy spoločností, ktoré najmenej chcú, aby sa objavili v denníkoch alebo systémoch tretích strán) uniknúť cez výzvy a modelové výstupy. V súčasnej dobe sa k tomu, čo uniká, pristupuje ako k niečomu merateľnému, útočnému a čoraz viac regulovanému. vlajky Bezpečnostný tím vlajky Bezpečnostný tím Medzitým, krádež poverení zostáva tvrdohlavo účinná. V základných útokoch na webové aplikácie, približne 88% porušení zahŕňa ukradnuté poverenia. Ak moderné porušenie často začína s "niekoho prihláseného", potom tlačenie citlivejšej práce do viacerých nástrojov nielen pridáva riziko, ale násobí ho. V štandardných nasadeniach musia byť výzvy a kontext niekde v jednoduchom texte na spracovanie. Môžete upravovať. Môžete filtrovať. Ale niekde v zásobníku musia byť údaje čitateľné, čo znamená, že sú zraniteľné. Dôverné výpočty posúvajú túto základnú líniu tým, že spúšťajú pracovné zaťaženie v izolovaných hardvérových prostrediach, ktoré chránia údaje a kód počas vykonávania.Toto znižuje, kto (alebo čo) môže pozorovať proces, vrátane privilegovaných vrstiev infraštruktúry.Neznižuje riziko každej vrstvy aplikácie, ale zužuje celú triedu expozície. Katarova stávka: Dôverná AI dostane fyzickú Najrýchlejší spôsob, ako zistiť, či je kategória skutočná, je sledovať, kam idú peniaze a megawatty. Katar dôverné dátové centrum AI, ktoré predstavuje jeden z prvých fyzických prejavov tejto zmeny. zariadenie bude používať dôverné výpočtové čipy (vrátane hardvéru Nvidia) na udržanie údajov šifrovaných v každej fáze spracovania. projekt, s počiatočnou investíciou vo výške 183 miliónov dolárov a ambíciami, ktoré sa v priebehu času budú rozširovať. Budova je Sú partnermi Budova je Sú partnermi Úloha OLLM je tu obzvlášť dôležitá, pretože existuje rozdiel medzi tvrdením o podpore dôvernej AI a skutočnou výstavbou infraštruktúry potrebnej na jej podporu. Jedno API, ktoré agreguje prístup k viacerým poskytovateľom a modelom umelej inteligencie a zároveň ponúka overiteľné záruky ochrany súkromia. Čo je Gateway Čo je Gateway "Dôverná AI" je jednoduchá fráza, ktorú môžete na vstupnej stránke zasiahnuť.Tento test dôveryhodnosti je jednoduchý: dokážete to dokázať? Jedným z diferenciátorov, ktoré OLLM zdôrazňuje, je dôverný výpočet-len postoj spárovaný s Zero Data Retention (ZDR): modely sú nasadené na dôverných výpočtových čipoch a platforma je navrhnutá tak, aby nezachovávala výzvy alebo výstupy. Jediné údaje, ktoré OLLM uchováva, sú operatívne nevyhnutné (a zámerne neobsahujúce obsah), ako napríklad spotreba tokenov a denníky atestácie TEE, ktoré nie sú prepojené s používateľmi alebo používateľskými údajmi, takže potvrdenia môžu byť verejne zobrazené pre transparentnosť v ovládacom paneli OLLM. To je filozofická zmena: zaobchádzať s „prístupom modelu“ ako s kritickou infraštruktúrou, OLLM ́s s Phala je najjasnejší “dôkaz” príbeh dnes. To rozširuje svoju stopu cez Phala dôverné AI infraštruktúry, kde pracovné zaťaženie beží vnútri TEE (vrátane Intel TDX, AMD SEV, a Nvidia H100 / H200 triedy GPU dôverné výpočty). Partnerstvo Partnerstvo NEAR AI tiež buduje súkromnú inferenčnú infraštruktúru poháňanú TEEs. To znamená, že vývojári môžu myslieť z hľadiska dôverného záveru ako kompostovateľný primitiv (Phala je jedna cesta, súkromná inferencia NEAR AI je iná). Bottom Line: Prečo by sa mali vývojári starať Pre vývojárov môže dôverná umelá inteligencia odomknúť pracovné postupy, ktoré boli predtým nepríjemné, riskantné alebo uviaznuté v limbo bezpečnostnej recenzie. To sa priamo rozširuje na to, kde sa AI môže použiť v praxi. Vlastné údaje, ako sú interné učebnice, návrhy produktov, konkurenčná inteligencia môže prechádzať systémami AI bez toho, aby boli zachytené v denníkoch tretích strán. Pre regulované odvetvia je táto zmena ešte dôležitejšia. Namiesto toho, aby boli požiadaní, aby „dôverovali“ tomu, ako sa s údajmi zaobchádza, banky a poskytovatelia zdravotnej starostlivosti môžu poukázať na kryptografické potvrdenie ako dôkaz, meniace sa diskusie o dodržia Rovnaká logika platí aj mimo vysoko regulovaných prostredí. Tímy pod tlakom na rýchlu prepravu sa náhle nestanú menej vystavené, keď sa prototyp zmení na produkt. Dôverné vykonávanie umožňuje udržiavať rýchlosť iterácie a zároveň zúžiť to, čo môže záver odhaliť. Agentky AI začínajú spravovať poverenia, spúšťať API hovory a interagovať s citlivými systémami. Takže schopnosť spustiť ich bez vystavenia ich pokynov alebo údajov, dokonca aj operátorom, ktorí prevádzkujú infraštruktúru, sa stáva požiadavkou na základnú líniu, nie pokročilou funkciou. Keďže umelá inteligencia sa stáva začlenenou do skutočných pracovných postupov, najslabším bodom v hromade už nie je ukladanie alebo transport, ale vykonávanie.Využívanie údajov je miesto, kde sú citlivé informácie najviac vystavené a najmenej kontrolované.Dôverné výpočty nevyriešia každý bezpečnostný problém, ale uzatvárajú medzeru, ktorú politika, zmluvy a kontroly prístupu nemôžu.

This story contains new, firsthand information uncovered by the writer.

This writer has a vested interest be it monetary, business, or otherwise, with 1 or more of the products or companies mentioned within.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Tento zvuk je vyrobený v pôvodnom jazyku príbehu!

Chýbajúca vrstva v bezpečnosti AI: Prečo je "údaje v použití" ďalším bojiskom

About Author

KOMENTÁRE

ZAVISTE ŠTÍTKY

TENTO ČLÁNOK BOL PREDSTAVENÝ V

Related Stories

Code Smell 298 - How to Fix Microsoft Windows Time Waste

112 Stories To Learn About Hackernoon Community

Mutmut: a Python mutation testing system

Behavior of a shapely Spider

Code Smell 298 - How to Fix Microsoft Windows Time Waste

112 Stories To Learn About Hackernoon Community

Mutmut: a Python mutation testing system

Behavior of a shapely Spider

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps