Ranije u petak, Trumpova administracija koristila je rijetku oznaku "rizik sigurnosti opskrbnog lanca" kako bi učinkovito zabranila američkim vojnim izvođačima da posluju s Anthropicom, drugim najvećim AI start-upom na svijetu. Antropic CEO Dario Amodei u kojem je izvijestio o zahtjevima administracije da Anthropic briše određene klauzule iz svojih ugovora s američkom vladom – naime, ugovore koji bi spriječili domaći nadzor i uporabu za potpuno autonomno oružje. Nakon što je Trumpova administracija iskoristila svoje obećanje da će ukloniti Anthropic, pojavilo se nekoliko pitanja. Izjava Izjava Prije svega, nije iznenađujuće da je bilo koji alat koji je tako svugdje prisutan kao LLM-ovi nešto ukorenjen u način na koji vlada funkcionira. Antropicova poruka, zajedno s Trumpovim "šestomjesečnim planom izbacivanja", sugerira koliko je Claude bio važan. U svom govoru o stanju sindikata, Trump se pohvalio da su njegovi proračunski rezovi uštedjeli više od trilijuna dolara dok vlada "još uvijek radi". I dosljedna jedna na tome, budući da masovni pivotovi poput onog koji je pokrenut 27. veljače koštaju puno novca. Potrebe Ako ured upravljanja i proračun ne uspije, savezni radnici bi jednostavno izašli – baš kao što su to učinili tijekom rekordnog zatvaranja vlade prije samo nekoliko mjeseci. Ako DEA ili agenti FBI-a prestanu izvršavati slučajeve teškog kriminala, nacija bi sigurno pala u kaos. To, u kombinaciji s konzumirajućom ovisnošću o modelima AI-a kako bi održali ovu birokraciju, znači da razvijatelji bilo kojeg AI-a koji je podržala izvršna grana učinkovito imaju prilog onome što vlada SAD-a može učiniti u svom punom kapacitetu. Ako bi vlada htjela nametnuti sveobuhvatan pregled izvješća državne policije koristeći Claude pre-can za sumnjive, mogli bi to učiniti u nekoliko tjedana. Ako Anthropics povuče njihovu potporu, to bi Ali čekajte, nije li američka vlada prijetila Antropi?Ako je Antropičan stvarno moćniji od vlade, ne bi li to trebalo biti suprotno? U ovom trenutku, industrija je u stanju konkurencije. Za nekoliko godina to vjerojatno neće biti tako. Ili će jedna tvrtka nadmašiti druge zahvaljujući superiornim sposobnostima samoprodukcije vlastitih modela AI, ili će se više vodećih tvrtki spojiti, očajnički da zaustave beskonačno "gori novac" koji karakterizira današnji razvoj AI. Nekoliko milijardi korisnika AI-a - uključujući osoblje koje zapošljava vlada SAD-a - imaju opcije u smislu performansi i cijena. Što je više, velika većina korisnika LLM-a nije prošla "točku bez povratka" kada je riječ o tome koliko se oslanjaju na AI. Iako programer preferiranog AI-a administracije može vratiti operacije jednostavno povlačenjem njihove podrške, oni još nisu dovoljno moćni da diktiraju točno Ta razlika može biti upravo razlog zašto vlada odlučuje udvostručiti svoje tvrdnje da potencijalno koristi Claude za nadzor i autonomno oružje. S gledišta sukoba interesa, uskoro bi moglo biti prekasno. Špekuliram da najvažniji dio kontroverze nije ono što DOD zahtijeva – bilo da je to Claude za drone i rakete ili Claude za unutarnji nadzor – već činjenica da to uopće zahtijevaju. Trumpova administracija ima veliki utjecaj na ono što se događa u industriji AI izvan odluke o tome koji model AI treba upotrijebiti u birokraciji, a njihovi nedavni pregovori su, najvjerojatnije, sadržavali tanko zavijene prijetnje da djeluju protiv velikih igrača AI-a. Zašto? Precedent. Potpuno je moguće, a za To je ključni problem koji treba razmotriti ovdje.Svaka mala tvrtka koja drži ugovore s DOD-om mogla bi biti lako prekinuta ogromnim utjecajem koji je Admin izvršio danas, ali za tvrtke poput Anthropica, odluka je mnogo složenija.S jedne strane, DOD ugovori su velika stvar, kako u smislu izravne monetarne vrijednosti tako i u smislu strateških političkih prednosti koje bi mogle donijeti. Korištenje najmoćnijeg alata na svijetu jednostavno je uzgojno tlo za probleme usklađivanja, možda zato što je optimizacija modela da NIKADA nikoga ne hakira mnogo, mnogo, mnogo sigurnija od optimizacije modela da Uvijek hakira Kinu, Rusiju i Iran, a NIKADA hakira Ameriku. Bijela karta Istodobno, potez također podiže ključna pitanja o tome hoće li razvoj umjetne inteligencije ostati uglavnom, kao što Anthropic tvrdi, „za dobrobit čovječanstva.“ Definitivno je istina da umjetna inteligencija može omogućiti mnoge humanitarne projekte, pa čak i smanjiti razlike u bogatstvu ili obrazovne nejednakosti, ali što se događa kada određeni segment našeg čovječanstva nastoji ga oružati protiv drugog? Ako me pitate, pregovori koji izravno slijede današnje događaje doći će da odgovore na naša pitanja o tome kako AI doprinosi – ili je podvrgnuta – našim postojećim društvenim konstruktima.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Ovaj zvuk je proizveden na izvornom jeziku priče!

Anthropic i američki DOD: ključna borba za moć

About Author

KOMENTARI

VIJESI OZNAKE

OVAJ ČLANAK JE PREDSTAVLJEN U

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps