V priebehu posledného desaťročia a tak rýchlosť vývoja umelej inteligencie nepochybne zaručila blaho miliónov ľudí a s malým úsilím zostať na takejto trajektórii, technológia určite zostane týmto spôsobom ešte ďalšie desaťročia. Podľa môjho názoru však nedávne opatrenia, ktoré podnikli mnohé spoločnosti AI, ako aj vlády mnohých popredných vývojárov AI, v súhrne predstavujú odchýlku od cesty v prospech ľudstva. Tento článok, inšpirovaný dôsledkami funkcie Grok Companions, diskutuje o potrebe vládnej regulácie, odmieta bežné mylné predstavy používané na obhajobu komerčnej distribúcie rôznych AI chatbotov a navrhuje, ako by budúce právne predpisy mohli kontrolovať alebo zakázať bezpečnostné chyby v súčasných modeloch chatbotov. Grockove problémy Grok si vždy udržal miesto ako jeden z najkontroverznejších komerčných modelov umelej inteligencie od svojho vzniku, pravidelne sa stáva symbolickým zameraním na otázku korporátnej kontroly nad modelmi umelej inteligencie v zábavne neúspešných pokusoch Elona Muska použiť ju ako nástroj na podporu pro-pravicovej agendy na X. Avšak nedávno Grok tlačil svoju novú funkciu Companions, ktorá priťahovala ešte viac kontroverzie. Na povrchu je funkcia Companions sériou chatbotov, ktoré pripomínajú predchádzajúce služby chatbotov, ako sú tie, ktoré ponúka Meta AI a Prvými dvoma spoločníkmi sú Rudi, prisahajúca Červená Panda, a Ani, blondínka anime dievča, obaja zložené z jemne upravená verzia Grok, rovnako ako sprievodný avatar. Charakteristiky.AI Charakteristiky.AI Rôzne on-line správy potvrdzujú prirodzene romantické vlastnosti chatbotu, pričom viacerí recenzenti berú osobitnú pozornosť na „úrovne lásky“, ktoré môže užívateľ dosiahnuť, aby odomkol čoraz viac sexuálnych konverzácií, spolu so sprevádzajúcimi zmenami na avatare. recenzenti WIRED tiež poznamenali ochotu modelu AI otvorene hovoriť o témach BDSM, ako aj jeho drsný štýl reči a nekonzistentný detský filter. Keďže som nemal ochotu kúpiť predplatné SuperGrok za 30 dolárov mesačne, aby som získal prístup k funkcii Companions, nebol som schopný nezávisle overiť niektoré tvrdenia o chatbote; internet na druhej strane sa zdal súhlasiť s jednou vecou: tento konkrétny chatbot bol príliš odvážny. Rudi, ako sa zdá sporný, priťahoval oveľa menej kontroverzie. Karikatúra Red Panda má tendenciu urážať urážky a temné vtipy, ktoré mnohí považujú za smiešne a smiešne. Mnohí recenzenti majú tendenciu túto postavu odradiť, namiesto toho ju odmietnuť ako menej dôležitú, väčšinou slúžiacu deťom Gen-Z. Aby som povedal pravdu, zistil som, že obe postavy chatbotu sú dosť nudné.Namiesto toho, čo ma zaujímalo, bol odlišný proces a príjem tohto inak desiatky romantického chatbotu.Po prvé, Companions je medzi produktmi, ktoré uvoľnili „vedúci predstavitelia priemyslu“ AI (napr. OpenAI, DeepMind, Anthropic, Meta), prvý chatbot navrhnutý špeciálne na zapojenie sa do romantického hrania rolí, napriek bežným etickým obavám z tvrdenia dlhodobých psychologických účinkov na využívanie zraniteľnej demografie. Rozlišujúca malá regulácia obklopujúca chatboty ako tieto sa mi okamžite ukázala, okrem toho, že okrem odpovedania na niekoľko nesúhlasných hlasov, xAI dokázala produkt uvoľniť beztrestne. Mali by sa nové technológie pozorne sledovať, aby chránili používateľov, alebo by mali byť poskytnuté voľné ruky na rast a vývoj? Zodpovednosť a inovácie Rovnako ako u všetkých novovznikajúcich technológií, psychologické účinky používania AI chatbotov na ľudí nie sú vedecky dokázané ani empiricky zrejmé.Mnohí ľudia už dlho predpokladajú, že takéto technológie môžu potenciálne zhoršiť existujúce problémy a počiatočné správy negatívna korelácia medzi blahobytom a používaním chatbotu. nájdený nájdený Napriek tomu tieto relatívne neznáme technológie sú stále dobre v procese invázie do hlavných médií.Pri zvážení, či sú tieto technológie skutočne škodlivé alebo nie, technologickí komentátori a tvorcovia politiky rovnako prehliadajú kľúčový bod, že takéto zváženie by ideálne nikdy nemalo byť nevyhnutným problémom v prvom rade v rámci komerčných technológií. Skúsenosti s katastrofálnym zlyhaním. Možno Rovnako účastníci klinických skúšok by neboli spokojní s vedomím, že početné zvieratá ich v testovacom procese predchádzali.Jedným z najdôležitejších princípov inžinierstva je, že bez ohľadu na čokoľvek, bezpečnosť vždy prichádza na prvé miesto.Aby sme získali predstavu o potenciálnych nebezpečenstvách týchto chatbotov, v každom prípade sa musíme pozrieť na príklady dvoch tínedžerov, ktorých samovraždy boli spojené s AI, ktorí boli sprisahanciami v ich samovražedných myšlienkach. Mnohí priaznivci súčasnej doktríny „rozvíjať teraz, opraviť neskôr“ poukazujú na to, čo je zrejmé: sme uväznení v závode inovácií s Čínou. Napriek tomu tvrdim, že potreba inovácií nie je prípadom zanedbávania bezpečnosti – nikdy nemôžeme predpokladať, že rýchly technologický pokrok je vzájomne vylučujúci s bezpečnosťou spotrebiteľa. že sú, 
 
 "Bezpečnosť a zlepšenie produktov sa vyskytujú v dôsledku nedostatkov a nedostatkov nájdených v rámci rozšíreného nasadenia." "Bezpečnosť a zlepšenie produktov sa vyskytujú v dôsledku nedostatkov a nedostatkov nájdených v rámci rozšíreného nasadenia." Zatiaľ čo tieto testy boli nepochybne vykonané (najmä OpenAI premieta nové modely používateľom Pro pred ostatnými typmi používateľov), nie je preháňaním povedať, že masové nasadenie mnohých komerčne dostupných chatbotov sa vykonáva takým spôsobom, že ignoruje bezpečnosť používateľov, s mnohými modelmi ChatGPT. Aj keby bolo potrebné komerčné nasadenie na nájdenie mnohých z týchto problémov, bolo by oveľa rozumnejšie, keby sa prijali primerané záruky na zabezpečenie bezpečnosti zraniteľných skupín používateľov, čo v súčasnosti nie je prípad. zlyhanie zlyhanie 
 
 "Konzistentné rozšírené nasadenie nových modelov vedie k chatovým transkripciám, ktoré výrazne urýchľujú školenie nových modelov, na rozdiel od tradičných, non-AI produktov, z ktorých žiaden z nich nemá úmerný prospech z väčšieho zväzku spätnej väzby používateľov." "Konzistentné rozšírené nasadenie nových modelov vedie k chatovým transkripciám, ktoré výrazne urýchľujú školenie nových modelov, na rozdiel od tradičných, non-AI produktov, z ktorých žiaden z nich nemá úmerný prospech z väčšieho zväzku spätnej väzby používateľov." Zatiaľ čo môžu v skutočnosti informovať o modeli bezpečnosti a zapojenia zodpovedajúcich chatbotov, samostatné dátové potrubia, väčšinou vysokokvalitné, technické údaje vytvorené alebo overené ľuďmi, ovplyvňujú aspekty výcviku AI najrelevantnejšie pre rozvoj výkonu uvažovania a iných typov špecializovaných vedomostí (napr. kódovanie, matematické riešenie atď.). Dúfam, že som ukázal, že potreba inovácií nie je koreňovou príčinou týchto bezpečnostných nedostatkov – skôr je to koordinovaný nedostatok úsilia o bezpečnostné protokoly a testovanie. Úloha regulácie Zjavným riešením vyššie uvedeného nedostatku bezpečnostných noriem je jednoducho zvýšiť vládnu reguláciu praxe výcviku a distribúcie chatbotov. Čo však nie je zrejmé, je, ako by sa tento vysoko nejednoznačný návrh mohol uskutočniť v praxi. Na začiatku 20. storočia sa Spojené štáty prostredníctvom zákazu naučili dôležitú lekciu, že prísne, komplexné zákazy na škodlivý výrobok nefungujú. Namiesto toho, zákaz alkoholu bez zbavenia podstaty jeho žiaducej podstaty jednoducho viedol k čiernej horúčke na trhu, čím sa namiesto zníženia celkovej spotreby alkoholu zvýšila. Na konci 20. storočia, v boji proti masovej spotrebe cigariet, americká vláda prijala iný prístup: namiesto toho, aby priamo zakázala používanie cigariet, znížila sociálnu žiaduce tabakových výrobkov tým, že zverejnila široko distribuované správy podrobne popisujúce, ako môžu spôsobiť rakovinu kože, zaviazať cigaretové spoločnosti, aby umiestnili viditeľné diskvalifikácie na každý výrobok a obmedzili všadeprítomnosť reklamy na cigarety. spotreba cigariet z historického vrcholu takmer 4 000 na približne 800 cigariet na obyvateľa ročne. Zníženie Zníženie Aby sa zabránilo histórii, vládna kontrola nad nebezpečnými chatboty by mala ísť nad rámec právnych prekážok spotreby a rozvoja. Mali by sa tiež snažiť znížiť vnímanú sociálnu prípustnosť konzumácie týchto produktov, či už prostredníctvom kampaní alebo verejného výskumu. Napriek tomu je stále nejasné, do akej miery vláda môže skutočne ovplyvniť širšie sociálne zmeny, pričom súčasná verejná mienka smeruje k vírusovým trendom sociálnych médií vo väčšej miere ako k politicky-ekonomickým zmenám. Napísal Thomas Yin

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Tento zvuk je vyrobený v pôvodnom jazyku príbehu!

Odmietnutie doktríny "inovácia proti bezpečnosti" v nariadení o umelej inteligencii

About Author

KOMENTÁRE

ZAVISTE ŠTÍTKY

TENTO ČLÁNOK BOL PREDSTAVENÝ V

Related Stories

112 Stories To Learn About Hackernoon Community

Behavior of a shapely Spider

Code Smell 298 - How to Fix Microsoft Windows Time Waste

Mutmut: a Python mutation testing system

112 Stories To Learn About Hackernoon Community

Behavior of a shapely Spider

Code Smell 298 - How to Fix Microsoft Windows Time Waste

Mutmut: a Python mutation testing system

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps