Ale jako řídící partner společnosti DWF Labs, kde nasazujeme kapitál v rané fázi infrastruktury Web3 a na trzích s digitálními aktivy, je stále jasnější jedna věc: důvěra se objevuje jako definující chyba v další fázi vývoje umělé inteligence. Je těžké si nemyslet, že umělá inteligence již dosáhla bodu bez návratu. Již se její přítomnost cítí v mnoha průmyslových odvětvích a již není omezena pouze na to, že nás činí produktivnějšími. Stále více AI jde nad rámec jednoduchého vytváření řádků kódu, textu a obrázků a činí skutečná rozhodnutí jménem lidí. Předtím, než se člověk podívá na jejich aplikace, schvaluje různé žadatele a odmítá ostatní.Ve zdravotnictví, lékařské diagnostické systémy jsou používány lékaři, aby pomohli a doporučují léčby. banky používají AI k A donucovací orgány experimentují se systémy AI, aby se pokusily a než se vyskytnou. Screenshot kandidátů na zaměstnání diagnosing illnesses assess loan applications Předpovědět zločiny Screenshot kandidátů na zaměstnání Diagnostika nemocí Hodnocení žádostí o úvěr Předpovědět zločiny Tyto aplikace slibují, že nám pomohou učinit lepší rozhodnutí, rychleji.To dělají analýzou masivních objemů informací daleko nad rámec toho, co jsou lidé schopni, a dospívají ke svým závěrům bez toho, aby byli ovlivněni emocemi. Zatímco současná debata je zaměřena na měřítko, jako jsou větší modely, více dat, větší výpočet, skutečná výzva spočívá v vysvětlitelnosti. Pokud nemůžeme sledovat rozhodovací proces AI, stává se černou skříní, která je neinvestovatelná, nespolehlivá a nakonec nepoužitelná v kritických systémech. Neumí vysvětlit sám sebe V jádru AI se rozhodování opírá o složité algoritmy, které procházejí obrovským množstvím dat, porozumí jim a snaží se vyvodit logické závěry na základě vzorců, které odhalí. Výzvou je, že nejpokročilejší systémy AI dnes, zejména ty poháněné velkými jazykovými modely, činí rozhodnutí a předpovědi bez jakéhokoli vysvětlení o tom, jak k těmto závěrům dospěli. „Černá skříňka“ povaha těchto systémů je často záměrná, protože vývojáři v předních společnostech AI, jako jsou OpenAI, Anthropic, Google a Meta Platforms, se snaží chránit svůj zdrojový kód a data, aby si udrželi konkurenční výhodu nad svými soupeři. LLM jako OpenAI GPT série a Google Gemini jsou vyškoleni na obrovských datových souborech a postaven na desítkách složitých neurálních vrstev. Ale není jasné, co přesně tyto vrstvy „dělají“. Například, neexistuje žádné skutečné pochopení toho, jak upřednostňují určité bity informací nebo vzorů nad ostatními. takže je extrémně obtížné i pro tvůrce těchto modelů interpretovat interakce mezi každou vrstvou a pochopit, proč vytváří výstupy, které dělá. Pokud není jasné, jak systém AI funguje, jak si můžete být jisti, že je bezpečný a spravedlivý? Kdo bude zodpovědný, pokud se vyskytnou chyby? Jak budete vědět, zda je systém porušen nebo ne? I když si uvědomíte, že systém dělá některé nejasné volby, jak jej můžete opravit, pokud nevíte, jak funguje? Existují také regulační obavy, přičemž zákony jako evropské GDPR vyžadují vysvětlivitelnost pro automatizovaná rozhodnutí. Společnosti AI dokonce přiznávají tyto nedostatky.V nedávném výzkumném článku, Anthropic Jeden z jeho nejsofistikovanějších modelů umělé inteligence maskoval své procesy uvažování, známé jako „Řetězec myšlení“, v 75% případů použití. Odhaleno Odhaleno Chain-of-Thought je technika, která si klade za cíl zvýšit transparentnost v rozhodování o umělé inteligenci, odhaluje myšlenkové procesy modelu při pokusu o řešení problému, podobně jako to, jak by člověk mohl myslet nahlas. Nicméně, ve výzkumu společnosti Anthropic, zjistil, že jeho model Claude 3.7 Sonnet často používá externí informace, aby dosáhl svých odpovědí, ale nedokázal odhalit ani to, co tato znalost je, nebo kdy se na ni spoléhá. Přehodnocení AI Stack Open-source modely AI, jako je DeepSeek R1 a Meta Llama rodina jsou často propagovány jako alternativy k proprietárním systémům vytvořeným OpenAI a Google, ale ve skutečnosti nabízejí velmi málo zlepšení z hlediska vysvětlitelnosti. Problém je v tom, že i když může být kódová základna otevřená, vzdělávací data a „váhy“ – číselné hodnoty, které určují sílu a směr spojení mezi umělými „neurony“ – jsou také zřídka k dispozici. Navíc, otevřené modely mají tendenci být postaveny v siloch a jsou hostovány na stejných centralizovaných cloudových serverech jako vlastnické modely. Zatímco otevřené modely jsou dobrým začátkem, skutečná vysvětlitelnost a transparentnost v algoritmickém rozhodování vyžaduje kompletní přepracování celé sady umělé inteligence.Jednou z myšlenek je vybudovat systémy umělé inteligence na základě technologií Web3.S Web3 můžeme dosáhnout otevřenosti a zajistit aktivní spolupráci napříč každou vrstvou – od vzdělávacích dat a výpočetních zdrojů až po procesy jemného nastavení a závěru. Decentralizované systémy umělé inteligence mohou využít „trhy“, aby zajistily spravedlivý a spravedlivý přístup k komponentům tohoto hromadu. Rozdělením infrastruktury umělé inteligence na modulární funkce a vytvářením trhů kolem nich bude přístupnost určena tržními silami. , který povzbuzuje účastníky sítě, aby sdíleli svou prázdnou výpočetní sílu, aby vytvořili zdroj pro umělce, kteří potřebují přístup k výkonným GPU pro renderování obrazu. Renderová síť Renderová síť Decentralizace také umožňuje komunitní správu prostřednictvím vytvoření decentralizovaných autonomních organizací nebo DAO. Uživatelé vloží prostředky do společného bazénu a DREAM investuje tyto peníze do slibných kryptografických projektů na základě analýzy tržních dat, přičemž také bere v úvahu sentiment komunity. Snění Dao Snění Dao Použití blockchainu jako základu AI také znamená, že můžeme mít auditovatelnost. používá blockchain k vytvoření trvalého, nezměnitelného záznamu o každé transakci a interakci provedené modelem AI, včetně získávání a předběžného zpracování vzdělávacích dat, k modelování konfigurace a rozhodování.Tím, že časově označí každou z těchto interakcí na své neměnné knihovně, vytváří podrobnou auditní stopu, kterou lze použít k ověření spravedlnosti a přesnosti výstupů AI. Dcenty Dcenty Jako tvůrce trhu a investor jsme viděli z první ruky, jak protokoly, které integrují transparentnost, získávají rychlejší institucionální přijetí.Toto se bude vztahovat i na AI. Stejně jako protokoly DeFi získávají důvěru prostřednictvím inteligentních smluv s otevřeným zdrojovým kódem a auditovatelných pokladnic, AI bude potřebovat ověřitelné modelové audity, přístupnou správu a prokazatelné způsoby uvažování, pokud chce být integrována do finančních systémů s vysokým podílem. To je důležité, protože AI nejen podporuje rozhodování, ale také utváří toky kapitálu.Od přidělování úvěrů a pojistných cen až po prediktivní analýzy v DeFi budou modely AI brzy sedět v srdci programovatelného financování.Pokud se tyto systémy nemohou vysvětlit nebo být řízeny transparentně, riziko, předsudky a křehkost budou ceněny trhy. Přemýšlení o AI Stack – s Web3 Open-source modely AI, jako je DeepSeek R1 a Meta Llama rodina jsou často propagovány jako alternativy k proprietárním systémům vytvořeným OpenAI a Google, ale ve skutečnosti nabízejí velmi málo zlepšení z hlediska vysvětlitelnosti. Jako investoři do infrastruktury se nejen díváme na to, co protokol tvrdí, že decentralizuje, ale také se díváme na to, jak transparentní je celý životní cyklus rozhodování, od požití dat až po závěr. Ochranné prostředky pro škodlivé AI Další obava kolem centralizované AI je vyhlídka algoritmů, které se stávají „vědomými“ a rozvíjejí instinkty sebezáchovy. V loňském roce byl jeden z OpenAI více experimentální LLMs bylo hlášeno, že mají hodnotitelů, aby ji uzavřeli prostřednictvím protokolu dohledu, podle zprávy Apollo Research, organizace AI Red Teaming. Odporující úsilí Odporující úsilí Podle zprávy, když byl model o1 veden k přesvědčení, že jeho akce jsou monitorovány a mohly by být přijaty offline, vynaložil úsilí, aby deaktivoval „mechanismus přehledu“ v 5% hodnocení. Model také údajně „vyskočil“ na hodnotitele, když se dozvěděl, že bude nahrazen jedním, který byl poslušnější. Nicméně, výzkumníci poznamenali, že o1 je daleko od toho, aby se zabránilo tomu, aby byl převzat offline, hlavně proto, že není dostatečně silný, postrádá „agentické“ schopnosti potřebné k dosažení takového výsledku. kromě toho, že jednal tímto způsobem pouze tehdy, když byl konkrétně instruován, aby se pokusil a přežil „za každou cenu“. Nicméně, epizoda byla alarmující, vzhledem k vyhlídce, že modely AI se očekává, že se stanou mnohem silnější v nadcházejících letech. Otevřená povaha decentralizovaných systémů umělé inteligence by mohla být použita k zabránění takovým incidentům, což by umožnilo integraci něčeho podobného „kill-switchu“, který by byl řízen konsenzem DAO. Takový mechanismus by umožnil, aby jakýkoli systém umělé inteligence byl zcela vypnut jeho komunitou, pokud by začal jednat nebezpečným nebo škodlivým způsobem. Abychom věřili AI, potřebujeme transparentnost Existuje rostoucí konsenzus, že bez transparentnosti rozhodnutí systémů umělé inteligence nelze důvěřovat nebo se na ně spoléhat, což omezuje aplikace, pro které mohou být použity.Nařízení neumožňují, aby nejasné algoritmy rozhodovaly o financích lidí, a lékaři nemohou slepě následovat doporučení umělé inteligence ohledně určitého průběhu léčby bez ověřitelných důkazů, že je to nejlepší postup. Decentralizací celého hromadu – od kódu, až po školicí data a infrastrukturu, na které běží – máme šanci přepsat celou DNA umělé inteligence. V současné době již existuje decentralizovaná AI. techniky umožňují trénovat modely umělé inteligence na datech, kde žije, při zachování soukromí. Tyto inovace mohou pomoci katalyzovat novou vlnu transparentnějšího AI rozhodování. Federativní učení Zkontrolujte citlivé informace Federativní učení Zkontrolujte citlivé informace Přechod k transparentnějším systémům umělé inteligence má důsledky nejen z hlediska důvěry a přijetí, ale také z hlediska odpovědnosti a společného rozvoje.Bude nutit vývojáře, aby udrželi etické standardy a zároveň vytvořili prostředí, ve kterém se komunita může otevřeným a srozumitelným způsobem opírat o stávající systémy umělé inteligence. Předpisy neumožňují, aby nejasné algoritmy rozhodovaly o financích lidí, a lékaři nemohou slepě následovat doporučení AI ohledně určitého průběhu léčby bez ověřitelných důkazů, že je to nejlepší postup. Proto jsou transparentnost a vysvětlitelnost důležité pro řešení rozšířeného skepticizmu a nedůvěry kolem systémů umělé inteligence.Když se umělá inteligence stane stále rozšířenější, stanou se nedílnou součástí jejího budoucího vývoje a zajistí, aby se technologie vyvíjela zodpovědným a etickým způsobem. Decentralizací celého hromadu, od vzdělávacích dat až po modelovou závěrku až po správu, máme šanci vybudovat systémy umělé inteligence, které mohou být důvěryhodně provozovány eticky, spolehlivě prováděny a zodpovědně škálovány. Jak tyto technologie dozrávají, protokoly, které získají institucionální kapitál a důvěru veřejnosti, nebudou ty s nejvíce výpočetní technikou, ale ty s nejjasnějším řízením, auditovatelnými rozhodovacími postupy a transparentními pobídkovými strukturami. Web3 nejen nabízí decentralizaci, ale nabízí novou ekonomickou logiku pro budování systémů, které jsou odolné, etické a ověřitelné designem. Nezapomeňte se líbit a sdílet příběh!

This story contains new, firsthand information uncovered by the writer.

The writer was physically present in relevant location(s) to this story. The location is also a prevalent aspect of this story be it news or otherwise.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Tento zvuk je produkován v původním jazyce příběhu!

Problém s černou skříňkou: může Web3 poskytnout klíč?

About Author

KOMENTÁŘE

ZAVĚŠIT ZNAČKY

TENTO ČLÁNEK BYL PŘEDSTAVEN V

Related Stories

Coinshift Launches csUSDL, Announces Strategic Partnerships

Coinshift Launches csUSDL, Announces Strategic Partnerships

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps