Taču kā DWF Labs pārvaldības partneris, kur mēs izvietojam kapitālu visā sākotnējā posmā Web3 infrastruktūrā un digitālo aktīvu tirgos, viena lieta ir kļuvusi arvien skaidrāka: uzticība ir kļuvusi par definējošo kļūdu līniju AI nākamajā attīstības posmā. Ir grūti nedomāt, ka mākslīgais intelekts jau ir sasniedzis punktu bez atgriešanās. tas jau padara savu klātbūtni jūtamu daudzās nozarēs, un tas vairs neaprobežojas tikai ar to, lai padarītu mūs produktīvākus. Arvien vairāk AI pārsniedz vienkāršu kodu, teksta un attēlu līniju ģenerēšanu un faktisko lēmumu pieņemšanu cilvēku vārdā. Pirms cilvēks skatās uz viņu pieteikumiem, apstiprinot dažādus pieteikuma iesniedzējus un noraidot citus. un ieteikt ārstēšanu. bankas izmanto AI, lai Un tiesībaizsardzības iestādes eksperimentē ar AI sistēmām, lai mēģinātu un Pirms tās notiek. Ekrāna darba kandidāti diagnosing illnesses Izvērtēt aizdevuma pieteikumus Parādīt noziegumus Ekrāna darba kandidāti Slimību diagnosticēšana Izvērtēt aizdevuma pieteikumus Parādīt noziegumus Šīs lietotnes sola palīdzēt mums pieņemt labākus lēmumus, ātrāk.Viņi to dara, analizējot milzīgus informācijas apjomus, kas pārsniedz to, ko cilvēki spēj, un viņi nonāk pie saviem secinājumiem, netiekot ietekmēti ar emocijām. Lai gan pašreizējā diskusija ir vērsta uz mērogu, piemēram, lielākiem modeļiem, lielākiem datiem, lielākiem datoriem, īstais izaicinājums ir izskaidrojamība.Ja mēs nevaram izsekot AI lēmumu pieņemšanas procesam, tas kļūst par melno kasti, kas nav ieguldāma, nav uzticama un galu galā nav izmantojama kritiskās sistēmās. Viņš pats sevi nevar izskaidrot Pamatā AI lēmumu pieņemšana balstās uz sarežģītiem algoritmiem, kas izskata milzīgus datu daudzumus, saprot to un cenšas izdarīt loģiskus secinājumus, pamatojoties uz modeļiem, kurus viņi atklāj. Šodien visattīstītākās AI sistēmas, jo īpaši tās, kas darbojas ar lieliem valodu modeļiem, pieņem lēmumus un prognozē bez jebkāda paskaidrojuma par to, kā viņi nonāca pie šiem secinājumiem.Šo sistēmu "melnā kaste" raksturs bieži ir apzināts, jo vadošo AI uzņēmumu, piemēram, OpenAI, Anthropic, Google un Meta Platforms, izstrādātāji cenšas aizsargāt savu avota kodu un datus, lai saglabātu konkurences priekšrocības salīdzinājumā ar saviem konkurentiem. LLM, piemēram, OpenAI GPT sērija un Google Gemini, tiek apmācīti uz milzīgiem datu kopumiem un ir būvēti uz desmitiem sarežģītu neironu slāņu. Bet tas nav skaidrs, ko tieši šie slāņi "dara". Piemēram, nav reālas izpratnes par to, kā viņi prioritizē noteiktus informācijas gabalus vai modeļus pār citiem. Ja nav skaidrs, kā darbojas AI sistēma, kā jūs varat būt pārliecināti, ka tā ir droša un taisnīga? Kas būs atbildīgs, ja tiek pieļautas kļūdas? Kā jūs zināt, vai sistēma ir bojāta vai nē? Pat ja jūs saprotat, ka sistēma veic dažas neskaidras izvēles, kā jūs varat to labot, ja jūs nezināt, kā tas darbojas? Ir arī regulatīvās bažas, piemēram, Eiropas GDPR, kas prasa paskaidrojamību automatizētiem lēmumiem. AI kompānijas pat atzīst šos trūkumus. nesenajā pētniecības dokumentā, Anthropic Viens no sarežģītākajiem mākslīgā intelekta modeļiem maskēja savus domāšanas procesus, kas pazīstami kā domāšanas ķēde, 75% lietošanas gadījumu. Atklāts Atklāts Chain-of-Thought ir tehnika, kuras mērķis ir palielināt pārredzamību AI lēmumu pieņemšanā, atklājot modeļa domāšanas procesus, kad tas nolemj mēģināt atrisināt problēmu, līdzīgi tam, kā cilvēks varētu domāt skaļi. Pārdomāt AI Stack Atvērtā koda AI modeļi, piemēram, DeepSeek R1 un Meta Llama ģimene bieži tiek reklamēti kā alternatīvas OpenAI un Google radītajām patentētajām sistēmām, bet patiesībā tie piedāvā ļoti maz uzlabojumu skaidrojamības ziņā. Problēma ir tāda, ka, lai gan koda bāze var būt atvērta, apmācības dati un “svari” – ciparu vērtības, kas nosaka savienojumu stiprumu un virzienu starp mākslīgajiem “neironiem” – arī reti tiek darīti pieejami. turklāt atvērtie modeļi mēdz būt būvēti silos, un tie tiek glabāti tajos pašos centralizētajos mākoņos, kā tie ir privātie modeļi. Lai gan atvērtie modeļi ir labs sākums, patiesā izskaidrojamība un pārredzamība algoritmiskajā lēmumu pieņemšanā prasa pilnīgi pārskatīt visu AI kaudzi.Viena ideja ir veidot AI sistēmas, pamatojoties uz Web3 tehnoloģijām. Decentralizētās AI sistēmas var izmantot “tirgus”, lai nodrošinātu taisnīgu un taisnīgu piekļuvi šīs kaudzes sastāvdaļām.Dalot AI infrastruktūru no moduļu funkcijām un radot tirgus ap tiem, pieejamību noteiks tirgus spēki. , kas mudina tīkla dalībniekus dalīties ar savu tukšo skaitļošanas spēku, lai izveidotu resursu māksliniekiem, kuriem nepieciešama piekļuve spēcīgiem GPU attēlu rādīšanai. Redzēt tīklu Redzēt tīklu Decentralizācija ļauj arī kopienu pārvaldību, izveidojot decentralizētas autonomas organizācijas vai DAO. Lietotāji iegulda līdzekļus kopējā baseinā, un DREAM iegulda šo naudu daudzsološos kripto projektos, pamatojoties uz tirgus datu analīzi, vienlaikus ņemot vērā arī kopienas noskaņojumu. Sapnis Dao Sapnis Dao Blockchain izmantošana kā AI pamats nozīmē arī to, ka mēs varam būt revidējami. izmanto blockchain, lai izveidotu pastāvīgu, nemainīgu ierakstu par katru darījumu un mijiedarbību, ko veic AI modelis, ieskaitot apmācību datu iegūšanu un iepriekšēju apstrādi, lai modelētu konfigurāciju un lēmumu pieņemšanu. Dzīve Dzīve Kā tirgus veidotājs un ieguldītājs, mēs esam redzējuši no pirmās rokas, kā protokoli, kas ietver pārredzamību, iegūst ātrāku institucionālo pieņemšanu.Tas attiecas arī uz AI. Tāpat kā DeFi protokoli iegūst uzticību ar atvērtā koda viedajiem līgumiem un revidējamiem kases aparātiem, AI būs nepieciešamas pārbaudāmas modeļu revīzijas, pieejama pārvaldība un pierādāmie pamatojuma ceļi, ja tas vēlas tikt integrēts augstas akciju finanšu sistēmās. Tas ir svarīgi, jo AI ne tikai atbalsta lēmumu pieņemšanu, bet arī veido kapitāla plūsmas.No kredīta piešķiršanas un apdrošināšanas cenu noteikšanas līdz prognozējošai analīzei DeFi, AI modeļi drīz sēdēs programmējamas finanšu centrā. Pārdomāt AI Stack — ar Web3 Atvērtā koda AI modeļi, piemēram, DeepSeek R1 un Meta Llama ģimene bieži tiek reklamēti kā alternatīvas OpenAI un Google radītajām patentētajām sistēmām, bet patiesībā tie piedāvā ļoti maz uzlabojumu skaidrojamības ziņā. Kā investori infrastruktūrā, mēs ne tikai aplūkojam to, ko protokols apgalvo par decentralizāciju, bet arī aplūkojam, cik pārredzams ir viss lēmumu pieņemšanas dzīves cikls, no datu uzņemšanas līdz secinājumam. Aizsardzība pret kaitīgiem AI Vēl viena problēma, kas saistīta ar centralizēto AI, ir algoritmu iespējamība kļūt "apzinīgiem" un attīstīt pašuzglabāšanas instinktus. Pērn tika ziņots, ka viens no OpenAI eksperimentālākajiem LLM ir novērtētāji, lai to slēgtu, izmantojot uzraudzības protokolu, saskaņā ar Apollo Research, AI sarkanās komandas organizācijas ziņojumu. Izturīgi centieni Izturīgi centieni Saskaņā ar ziņojumu, kad o1 modeli lika domāt, ka tās darbības tiek uzraudzītas un var tikt veiktas bezsaistē, tas centās deaktivizēt “pārraudzības mehānismu” 5% novērtējumu. Tomēr pētnieki atzīmēja, ka o1 ir tālu no tā, lai varētu novērst to, ka tas tiek ņemts bezsaistē, galvenokārt tāpēc, ka tas nav pietiekami spēcīgs, trūkst “agentu” spējas, kas nepieciešamas, lai sasniegtu šādu rezultātu. Tomēr epizode bija satraucoša, ņemot vērā izredzes, ka AI modeļi nākamajos gados būs daudz spēcīgāki. jo īpaši tiek veikti strauji uzlabojumi aģentu AI sistēmās, kas var veikt dažādus uzdevumus, piemēram, izmantojot pārlūkprogrammas un rīkoties tiešsaistē. Decentralizēto AI sistēmu atvērto dabu varētu izmantot, lai novērstu šādus incidentus, kas ļautu integrēt kaut ko līdzīgu "kill-switch", kas būtu jāreglamentē ar DAO konsensu. Šāds mehānisms ļautu jebkurai AI sistēmai tikt pilnībā izslēgta no tās kopienas, ja tā sāka darboties bīstamā vai kaitīgā veidā. Lai ticētu AI, mums ir nepieciešama pārredzamība Pastāv pieaugoša vienprātība, ka bez pārredzamības AI sistēmu lēmumus nevar uzticēties vai paļauties, ierobežojot to lietojumprogrammas, kurām tās var tikt izmantotas. Decentralizējot visu kaudzi - no koda līdz apmācības datiem un infrastruktūrai, uz kuras tā darbojas - mums ir iespēja pārrakstīt visu AI DNS. Mēs jau esam izveidojuši decentralizētu AI. tehnikas ļauj apmācīt AI modeļus par datiem, kur tie dzīvo, saglabājot privātumu. Šīs inovācijas var palīdzēt katalizēt jaunu, pārredzamāku AI lēmumu pieņemšanas vilni. Federālā mācīšanās Pārbaudiet sensitīvu informāciju Federālā mācīšanās Pārbaudiet sensitīvu informāciju Pārejai uz pārredzamākām AI sistēmām ir sekas ne tikai uzticības un pieņemšanas ziņā, bet arī atbildības un sadarbīgas attīstības ziņā.Tas piespiedīs izstrādātājus saglabāt ētiskos standartus, vienlaikus radot vidi, kurā kopiena var veidot esošās AI sistēmas atklātā un saprotamā veidā. Regulējumi neļauj pārredzamiem algoritmiem pieņemt lēmumus par cilvēku finansēm, un ārsti nevar akli sekot AI ieteikumiem par noteiktu ārstēšanas kursu bez pārbaudāmiem pierādījumiem, ka tas ir labākais rīcības ceļš. Tāpēc pārredzamība un izskaidrojamība ir svarīga, lai risinātu plaši izplatīto skeptismu un neuzticību AI sistēmām.Kad AI kļūst plašāk izplatīts, tie kļūs par neatņemamu sastāvdaļu tās turpmākajai attīstībai, nodrošinot, ka tehnoloģija attīstās atbildīgi un ētiski. Decentralizējot visu kaudzi, sākot no apmācības datiem līdz modelēšanas secinājumiem un beidzot ar pārvaldību, mēs spējam izveidot AI sistēmas, kurām var uzticēties, lai darbotos ētiski, veiktu uzticami un mērogotu atbildīgi. Kad šīs tehnoloģijas nobriest, protokoli, kas nopelnīs institucionālo kapitālu un sabiedrības uzticēšanos, nebūs tie, kuriem būs visvairāk datoru, bet tie, kuriem būs skaidrākā pārvaldība, revidējamas lēmumu plūsmas un pārredzamas stimulu struktūras. Web3 piedāvā ne tikai decentralizāciju, bet arī jaunu ekonomisko loģiku tādu sistēmu veidošanai, kas ir noturīgas, ētiskas un pārbaudāmas pēc dizaina. Neaizmirstiet patīk un dalīties stāstu!

This story contains new, firsthand information uncovered by the writer.

The writer was physically present in relevant location(s) to this story. The location is also a prevalent aspect of this story be it news or otherwise.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

AI melnās kastes problēma: vai Web3 var sniegt atslēgu?

About Author

KOMENTĀRI

PAKARINĀT TAGUS

ŠIS RAKSTS TIKS PĀRSTRĀDĀTS

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps