Men, kòm yon patnè jesyon nan DWF Labs, kote nou deplwaye kapital atravè enfrastrikti a nan etap inisyal Web3 ak mache nan asit dijital, yon bagay te vin pi klè: konfyans ap vini kòm liy la defèt definitif nan faz la pwochen nan devlopman nan AI. Pa konfyans nan sa ki modèl ka fè, men nan ki jan yo fè li. Li difisil yo pa panse ke entèlijans atifisyèl te deja rive nan yon pwen nan pa gen okenn retounen. Li deja fè prezans li santi nan anpil endistri, epi li pa plis limit nan jis fè nou plis pwodiktif. Kòman plis, AI ap ale soti nan jis jenerasyon liy kòd, tèks ak imaj, ak fè desizyon reyèl nan non moun. Pou egzanp, kèk konpayi ap itilize algorithms AI pou anvan yon moun gade aplikasyon yo, apwouve aplikasyon divès kalite ak rejeye lòt moun. Nan swen sante, medikal sistèm dyagnostik yo ap itilize pa doktè yo ede nan ak rekòmande tretman. Bank yo ap itilize AI pou Epitou, enspeksyon ofisyèl yo te eksperyans ak sistèm AI yo eseye ak Anvan yo rive. Ekran nan travay kandida diagnosing illnesses Evalye aplikasyon pou kredi prezante krimen Ekran nan travay kandida Diagnostik maladi Evalye aplikasyon pou kredi prezante krimen Aplikasyon sa yo pwomèt ede nou fè desizyon pi bon, pi vit. Yo fè sa pa analize volim enpòtan nan enfòmasyon lwen plis pase sa moun yo kapab, epi yo rive nan konklizyon yo san yo pa enfliyanse pa emosyon. Sepandan, sistèm sa yo entèdi pa yon mank nan transparans ak eksplike, ki fè li pa posib pou nou fè konfyans nan desizyon yo yo rive nan. Malgre ke debaz la kounye a konsantre sou gwosè, tankou modèl pi gwo, plis done, konpitè pi gwo, reyèl repitasyon an se nan eksplike. Si nou pa ka swiv yon pwosesis desizyon AI a, li vin yon bwat nwa ki se pa envestib, enpòtan, ak finalman inutil nan sistèm kritik. Sa a se kote Web3 vini nan, sipòte ak enfrastrikti ak transparans. Li pa ka eksplike tèt li Kòz li yo, pran desizyon AI depann sou algorithms konplèks ki fè fas nan gwo kantite done, konprann li, epi eseye fè konklizyon logik ki baze sou modèl yo detekte. Pwopriyete a se ke sistèm yo ki pi avanse AI jodi a, espesyalman yo ki te pote pa modèl lang gwo, fè desizyon ak prediksyon san yo pa gen okenn eksplike sou ki jan yo te rive nan konklizyon sa yo. "black box" natirèl la nan sistèm sa yo se souvan entansyèl, paske devlopè nan konpayi ki mennen AI tankou OpenAI, Anthropic, Google ak Meta Platforms ap eseye pwoteje kòd sous yo ak done yo kenbe yon avantaj konpetitif sou rivyè yo. LLMs tankou OpenAI a GPT seri ak Google a Gemini yo fòmasyon sou seri done enpòtan ak bati sou dè santèn de ki konplike kouch nèvral. Men, li se pa klè sa sa sa sa yo kouch "fè". Pou egzanp, pa gen okenn konpreyansyon reyèl sou ki jan yo priorite kèk bwat enfòmasyon oswa modèl sou lòt moun. Se konsa, li se trè difisil menm pou kreyatè yo nan modèl sa yo entèpretasyon interaksyon ant chak kouch, epi konprann poukisa li gen pwodiksyon yo li fè. Sa a mank nan transparans ak eksplisitibite pote risk enpòtan. Si li pa klè ki jan yon sistèm AI ap travay, ki jan ou ka asire ke li se san danje ak ewo? Ki pral responsablite si erè yo te fè? Ki jan ou pral konnen si sistèm la se ranpli oswa pa? Menm si ou panse sistèm la ap fè kèk chwa dodgy, ki jan ou ka reparasyon li si ou pa konnen ki jan li ap travay? Gen pwoblèm règleman tou, ak lwa tankou GDPR Ewopeyen an mande eksplisitib pou desizyon otomatik. Sistèm AI Opaque pa kapab satisfè estanda sa a. konpayi AI menm rekonèt mank sa yo. Nan yon papye rechèch dènye, Anthropic Yon nan modèl ki pi sofistike AI li yo maske pwosesis rezonasyon li yo, ki rele "Chain-of-Thought", nan 75% nan ka itilize. Revele Revele Chain-of-Thought se yon teknik ki objektif ogmante transparans nan desizyon AI, revele pwosesis panse nan modèl la lè li mete sou eseye rezoud yon pwoblèm, menm jan ak ki jan yon moun ta ka panse loudman. Sepandan, nan rechèch la nan Anthropic, li te jwenn ke modèl Claude 3.7 Sonnet li yo souvan itilize enfòmasyon ekstèn yo rive nan repons li yo, men pa te revele oswa sa ki sa a konesans se, oswa lè li depann sou li. Kòm yon rezilta, kreyasyon yo pa gen okenn fason yo eksplike ki jan li te rive nan majorite nan konklizyon li yo. Rethinking nan AI Stack Modèl AI open-source tankou DeepSeek R1 ak Meta a Llama fanmi yo souvan ankouraje kòm alternativ yo nan sistèm yo pwopriyete ki te kreye pa OpenAI ak Google, men nan reyalite yo ofri trè mwens amelyorasyon nan tèm de eksplike. Problèm la se ke malgre ke baz la kòd ta ka louvri, done fòmasyon ak "pwa" - valè a nimewo ki déterminent fòs la ak direksyon nan koneksyon ant "neuron" artificiel - yo te rarman disponib tou. Anplis de sa, modèl louvri tendans yo bati nan silo yo, ak yo te hosted sou menm sèvè nwaj santral kòm modèl pwopriyete yo. Yon modèl AI desantralize ki te hosted sou yon sèvè santral se louvri pou manipilasyon ak sansasyon, ki vle di li se pa reyèlman desantralize nan tout. Malgre ke modèl louvri se yon bon kòmansman, reyèl explicability ak transparans nan desizyon algorithmic mande pou yon revizyon konplè nan tout stack la nan AI. Yon lide se bati sistèm AI sou yon fondasyon nan teknoloji Web3. Avèk Web3, nou ka jwenn louvri ak asire kolaborasyon aktif nan tout layer - soti nan done fòmasyon ak resous òdinatè, nan pwosesis fin-tuning ak inference. Dezantralize sistèm AI ka sèvi ak "march" yo asire aksè jeneral ak egzanp nan eleman yo nan piki sa a. Pa ranplase enfrastrikti a nan AI nan fonksyon modilè ak kreye mache alantou yo, aksè a pral detèmine pa fòs mache yo. Yon egzanp nan sa a se: , ki ankouraje patisipan rezo yo pataje pouvwa òdinatè vye granmoun yo yo kreye yon resous pou atis ki bezwen aksè a GPU pouvwa pou rènm imaj. Li se yon egzanp nan ki jan blockchain ka ede koordine moun ak resous pou benefis komen. Render rezo Render rezo Dezentralizasyon tou pèmèt gouvènman ki baze sou kominote atravè kreyasyon an nan Organizasyon Dezentralize Otonom oswa DAO. Anvan ane sa a, te lanse yon ajan AI rele DREAM ki ap travay tankou yon fond an sekirite desantralize ke nenpòt moun ka envesti nan. itilizatè depase lajan nan yon pwason komen, ak DREAM envesti lajan sa a nan pwojè kriptografik pwomèt ki baze sou yon analiz done mache, pandan y ap tou konsidere sentiment kominote. Li demontre ki jan AI ka optimize envestisman pandan y ap asire desizyon finansye li yo aliye ak objektif yo nan kominote a. Règleman nan Règleman nan Sèvi ak blockchain kòm yon fondasyon nan AI tou vle di nou ka gen revizibilite. itilize blockchain yo kreye yon dosye permanan, imodifye nan chak tranzaksyon ak interaksyon te fè pa yon modèl AI, ki gen ladan sourcing ak pre-prosesyon nan done fòmasyon, pou modèl konfigirasyon ak desizyon. Pa timestamping chak nan interaksyon sa yo sou livrezon imodifye li yo, li kreye yon kouri detaye ki ka itilize yo tcheke egzanpite a ak akòzite nan pwodiksyon AI. itilizatè ka egzamine chak bit nan done ki enfliyanse desizyon yo yo te vini nan. Pwodwi Pwodwi Kòm yon maketè mache ak envestisè, nou te wè ki jan pwotokòl ki entegre transparans vin pi vit aksepte enstitisyonèl. Sa a pral aplike pou AI tou. Menm jan pwotokòl DeFi genyen konfyans nan kontra entelijan sous louvri ak trezò revize, AI pral bezwen revizyon modèl vètib, gouvènman aksè, ak fason rezonab dokiman si li vle entegre nan sistèm finansye gwo enstitisyon. Li enpòtan paske AI pa sèlman sipòte desizyon. Li se tou fòme flòt kapital. Soti nan alokasyon kredi ak pri asirans nan analiz pratik nan DeFi, modèl AI pral byen bonè monte nan kè a nan finansman pwograme. Si sistèm sa yo pa ka eksplike tèt yo oswa gouvènman transparan, risk, bias, ak fragilite yo pral prize nan pa mache yo. Rethinking nan AI Stack - ak Web3 Modèl AI open-source tankou DeepSeek R1 ak Meta a Llama fanmi yo souvan ankouraje kòm alternativ yo nan sistèm yo pwopriyete ki te kreye pa OpenAI ak Google, men nan reyalite yo ofri trè mwens amelyorasyon nan tèm de eksplike. Kòm envestisè nan enfrastrikti, nou pa sèlman gade nan sa yon pwotokòl revele desantralize, nou menm tou gade nan ki jan transparan se sik la lavi konplè nan desizyon, soti nan enterè done a inferans. pwoteksyon pou danjere AI Yon lòt pwoblèm alantou IA santralize se pwopriyete a nan algorithms vin "conscious" ak devlope enstitisyon pwopriyete pwòp tèt ou. Yon senaryo sa a se asire ke pa byen lwen. ane pase a, youn nan OpenAI a plis eksperyans LLMs te rapòte te gen pa evalyateur yo fèmen l 'soti nan yon pwotokòl supervizyon, dapre yon rapò nan Apollo Rechèch, yon òganizasyon teaming AI rouge. resisted efforts Rezistans efò Dapre rapò a, lè modèl la o1 te pote yo kwè aksyon li yo yo te monitore ak li ta ka pran offline, li te fè efò pou deaktivman "mekanis la nan revizyon" nan 5% nan evalyasyon yo. Modèl la tou te rapòte "fwa" nan evalyateur yo lè li te aprann ke li ta dwe ranplase pa youn ki te plis obeyab. Nan 2% nan ka yo, li menm te eseye kopi tèt li nan yon efò yo overwrite modèl la nouvo ak konsève tèt li. Sepandan, rechèchè yo te observe ke o1 se lwen ki kapab anpeche tèt li yo dwe pran offline, sitou paske li pa ase, manke kapasite yo "agentik" ki nesesè pou reyalize yon rezilta sa a. Anplis de sa, li te sèlman travay nan fason sa a lè li te espesifikman enstriksyon yo eseye ak survie "pou tout pri". Rapò a tou note ke rechèchè yo pa te gen aksè nan tout pwosesis lan lan nan o1 la, se konsa yo pa te kapab jwenn yon imaj konplè nan sa ki reyèlman "pensye". Sepandan, episòd la te enkyetid, akòz pwopriyete a ke modèl AI yo espere yo vin pi fò nan ane yo pwochen. An patikilye, avanse rapid yo te fè nan sistèm AI ajan ki kapab fè yon varyete de travay, tankou lè l sèvi avèk navigatè yo ak pran aksyon sou entènèt. Yon pwopriyete louvri nan sistèm AI desantralize ka itilize pou anpeche incidans sa yo, ki pèmèt entegre yon bagay tankou yon "kill-switch" ki ta dwe gouvènman pa konsans DAO. Yon mekanis sa a ta pèmèt nenpòt sistèm AI yo dwe konplètman sispann pa kominote li yo si li te kòmanse ap travay nan fason ki nesesè oswa mal. Anplis de sa, transparans nan modèl louvri ta vle di itilizatè yo gen plis vizibilite nan pwosesis panse li yo ak natirèl la nan rezilta yo li ap eseye rive. Pou konfyans nan AI, nou bezwen transparans Yon konsensus ogmante ke san yo pa transparanite, desizyon yo nan sistèm AI pa ka fè konfyans oswa depann sou, limite aplikasyon yo yo ka itilize pou. Règleman yo pa pèmèt algorithms opaque pran desizyon sou finans yo nan moun, ak doktè pa ka aksanman swiv rekòmandasyon yo nan yon AI sou yon sèten kou tretman san yo pa dokiman verifikab ke li se pi bon kou nan aksyon. Pa desantralize tout stack la - ki soti nan kòd la, done fòmasyon yo ak enfrastrikti a li kouri sou - nou gen yon chans yo rewrite tout ADN la nan AI. Li pral kreye kondisyon yo pou yon AI konplètman eksplike, se konsa algorithms ka konfyans fè desizyon etik ak egzak ki ka verifye pa nenpòt moun ki afekte pa yo. Nou deja gen kreyasyon yo nan decentralized AI nan plas. teknik fè li posib yo fòmasyon modèl AI sou done kote li ap viv, preserve prive. Avèk prèv nòt-konesans, nou gen yon fason yo pa ekspoze li. Inovasyon sa yo ka ede katalize yon nouvo wòch nan plis transparan AI desizyon. Federasyon pou aprantisaj Verifye enfòmasyon sensitif Federasyon pou aprantisaj Verifye enfòmasyon sensitif Yon chanjman nan direksyon pou sistèm AI plis transparan gen implikasyon, pa sèlman nan jaden an nan konfyans ak aksepte, men tou, responsablite ak devlopman kolaboratif. Li pral obligasyon devlopè yo kenbe estanda etik pandan y ap kreye yon anviwònman kote kominote a ka bati sou sistèm AI ki egziste nan yon fason louvri ak konprann. Règleman pa pèmèt algorithms opaque pou pran desizyon sou finans yo nan moun, ak doktè pa ka aksanman swiv rekòmandasyon an nan yon AI sou yon sèten kou tretman san yo pa dokiman verifikab ke li se pi bon kou nan aksyon. Se poutèt sa transparans ak explicabilite yo enpòtan pou rezoud skepsis la lajè ak kwè nan sistèm AI. Kòm AI vin pi lajman lajè, yo pral vin entegre nan devlopman pwochen li yo, asire ke teknoloji a devlope nan yon fason responsab ak etik. Pa desantralize tout stack la, ki soti nan done fòmasyon yo nan konvèsyon modèl nan gouvènman, nou gen yon ti kras nan konstriksyon sistèm AI ki ka konfyans opere etikman, pèfòmans serye, ak skalasyon responsableman. Kòm teknoloji sa yo matirite, pwotokòl yo ki pral genyen kapital enstitisyonèl ak konfyans piblik yo pa pral moun ki gen pi òdinatè, men moun ki gen gouvènman ki pi klè, flux desizyon ki ka audite, ak estrikti inisyativ transparan. Web3 pa sèlman ofri desantralizasyon, li ofri yon nouvo lojik ekonomik pou bati sistèm ki rezistan, etik, ak verifye pa konsepsyon. Epi se sa ki jan nou fè AI soti nan yon sak nwa nan yon utilite piblik ak poukisa tan kap vini an nan entelijans machin pral bati sou chaj la. Pa bliye jwi ak pataje istwa a!

This story contains new, firsthand information uncovered by the writer.

The writer was physically present in relevant location(s) to this story. The location is also a prevalent aspect of this story be it news or otherwise.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Problèm nan Black Box nan AI: Èske Web3 ka bay kle a?

About Author

KÒMANtè

KANDYE TAGS

ATIK SA A TE PREZANTE NAN

Related Stories

American Equity, by Sam Altman (with comments & highlights)

Women in Cybersecurity with SheSec Pakistan on The HackerNoon Podcast

HN Editor Picks: Top Tech Stories of March 2023

Meet the Writer: Vik Bogdanov, Tech Storyteller

American Equity, by Sam Altman (with comments & highlights)

Women in Cybersecurity with SheSec Pakistan on The HackerNoon Podcast

HN Editor Picks: Top Tech Stories of March 2023

Meet the Writer: Vik Bogdanov, Tech Storyteller

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps