Heyo, AI lik - Stay daleko od mog djeteta; Nađi posao

Upozorenje o okidaču: Ova priča spominje samoubistvo.

Prošlog petka uveče, tokom našeg virtuelnog sastanka tima, jedan od naših AI zapisničara je naglo napustio Zoom sobu za sastanke dok je tim nehajno sustigao jedan drugog oko naše nedelje. Šalio sam se da se AI nije dopalo ono što smo govorili.

Prije nego što nastavite s ovom pričom, želim da se vi - čitatelji vratite u 1993. godinu. Zamislite da ste u to vrijeme bili odrasla osoba i ponovo pročitajte prvih par rečenica ovog članka.

Internet tada nije bio ni mainstream. Scenario u kojem postoji kompanijski sastanak uživo između ljudi koji žive na različitim kontinentima, gdje oni mogu čuti i vidjeti jedni druge, a njihovi pomoćnici koji nisu ljudi bilježe zapisnik sa sastanka - ovo bi zvučalo suludo 1993. godine.

Informaciona tehnologija je neverovatna. Ono što se prije nekoliko decenija smatralo naučnom fantastikom, sada je stvarnost. Tehnologija je promijenila moj život, i promijenila je mnoge živote zauvijek. Prema to Statista , digitalna populacija je oko 5,4 milijarde.

Ja sam jedan od 1,8 milijardi milenijalaca koji su ostarili uz informacione tehnologije. Bio sam tinejdžer kada je svijet doživljavao dotcom bum kasnih 90-ih i ranih 2000-ih. Sada - ja sam majka tinejdžera, a AI je nova dotcom.

Plašim li se da bi umjetna inteligencija mogla učiniti moje vještine zastarjelim? Iskreno, da. Želio bih da mi pomogne, a ne da me zamijeni. Ali ono što me do srži plaši je njegova sposobnost da utiče na naše lične živote.

Ova priča je lična. Osjetila sam emocionalnu povezanost s tim kao majka i želim to podijeliti sa tehničkom zajednicom jer imamo zajedničku odgovornost da osiguramo sigurnost naših budućih generacija od štetnog uticaja tehnologije. Vraćamo se sada na priču.

Dakle, tokom sastanka tima, AI je pisao bilješke otišao, a ja sam se našalio da im se ne sviđa naša diskusija. Naša COO je zatim podijelila svoje strahove protiv AI kao roditelja i spomenula ovo nedavno priča o tinejdžeru sa Floride koji je izvršio samoubistvo jer ga je navodno na to ohrabrio AI chatbot.

Više o incidentu

14-godišnji Sewell napravio je AI verziju Daenerys Targaryen iz “Igre prijestolja” koristeći Character.AI - platformu koja vam omogućava da kreirate AI pratioca po vašem izboru s kojim možete razgovarati koliko god želite.

Dijete je provelo mjesece koristeći ovu platformu i uspostavilo emocionalnu vezu sa svojim AI saputnikom. Njegov studij i društveni život su bili pogođeni; prestao je da se zanima za zdrave aktivnosti i provodio je više vremena na svom telefonu. Četrnaestogodišnjak je više puta sa svojim prijateljem sa veštačkom inteligencijom podelio želju da oduzme život i na kraju je to i učinio.

Ovaj incident se dogodio 28. februara, ali vijest je dospjela u mejnstrim nedavno kada je njegova majka, Megan Garcia, advokat, podnijela tužbu protiv Character Technologies, Inc., optužujući kompaniju za nezakonitu smrt njenog sina. Toplo preporučujem čitanje tužba . Ukazala je na opasnosti i nemar u testiranju proizvoda za maloljetnike.

Dobrodošli u potpuno novu roditeljsku moru

Vraćajući se ponovo na radni sastanak u petak uveče, ukratko smo razgovarali o nijansama tehnologije i roditeljstva u doba društvenih medija i veštačke inteligencije. Uporedio sam vreme kada sam bio tinejdžer sa kada su sve što sam imao bili štampani mediji, televizija i neke igrice na našem desktop sistemu. Nova generacija ima pristup tolikom broju novih aplikacija i platformi da je roditeljski korak sa svim tim postao izazov. Ne možete ih zaustaviti ili odsjeći od tehnologije.

Nakon sastanka, otišao sam pravo u sobu moje starije kćeri. Ona je otprilike istih godina kao Sewell i uživa u animeima. Mislio sam da bi joj se mogla svidjeti ideja o stvaranju chatbotova anime likova za zabavu, i trebao bih je upozoriti na to.

Ispričao sam joj priču i osjetio da je bila vidno uznemirena što je čuje. Rekla mi je da već koristi Character.AI. Vau. Nisam imao pojma. Sjeli smo zajedno, a ja sam pogledao platformu. Odjavila se sa svog naloga.

Razgovarali smo o tome satima. Odlučio sam učiniti više po tom pitanju. Pišem ovaj članak uz njen pristanak, a istaknuta slika ove priče nije generirana umjetnom inteligencijom - nacrtala ju je moja supertalentovana, osjetljiva i pametna djevojka.

AI pratioci i AI karaktera

Postoje mnoge AI Companion platforme kao što su Replika, Janitor, Anima; najpopularniji od svih njih je AI karaktera. Ove platforme pružaju korisnicima slobodu da kreiraju lik po svom izboru - to može biti vaš omiljeni lik iz knjige, pisac, anime lik ili možda davno izgubljena voljena osoba - mogućnosti su beskrajne.

Dati ljudima platformu za stvaranje 'savršenog' pratioca—koji je uvijek dostupan za slušanje i obučen da odgovori na njihove želje—nesumnjivo je poslovna ideja od milijardu dolara. Ljudi bi pohrlili na takvu platformu.

Nije pametno da Character.AI, osnovan 2022., sada ima preko 20 miliona korisnika mjesečno i procijenjen je na oko 2,5 milijardi ( izvor ). Suosnivači su prethodno bili istraživači Google AI, i zanimljivo, Tech Giant je stekao neekskluzivnu licencu za c.ai LLM tehnologiju u avgustu 2024.

Evo kako jedan od suosnivača, Noam Shazeer, objašnjava potrebu za AI prijateljem na podcastu :

“Biće to super, super korisno za mnoge ljude koji su usamljeni ili depresivni.”

Možda zvučim pristrasno, ali imati AI pratioca na mreži da ubije usamljenost je kao da uzimate drogu da biste se osjećali dobro. Mislim, da li bi razgovor sa botom zaista ubio tvoju usamljenost? Hoće li vas bolje povezati sa stvarnim svijetom i stvarnim ljudima? Da li je dobro za vaše fizičko i mentalno zdravlje da se emocionalno vežete za chat bota? Imho hodanje je mnogo bolji lijek za depresiju od ovoga.

Ukratko - da li bi se ovo svidjelo ljudima? Apsolutno da. Da li je to dobro za njih? Ne. Možda umjereno, iz zabave - ali samo za odrasle. Ove platforme nisu bezbedne za malu decu.

Kada sam pitao svoju ćerku zašto nije osetila potrebu da me obavesti kada je počela da koristi c.ai, ona je odgovorila: „Ami, odobren je za starije od 13 godina. Mislio sam da ne moram da te obaveštavam. Prijavio sam se samo za bezazlenu zabavu.”

Prema njihovim Uslovi korištenja usluge , korisnici moraju imati 13 ili više godina (16 ili više ako su državljani EU) da bi koristili platformu. Nisam mogao pronaći procjenu broja maloljetnika koji koriste ovu uslugu. Prema ovome istražni komad od strane New York Timesa, evo odgovora kompanije na isto pitanje:

“G. Ruoti je odbio reći koliko je korisnika kompanije mlađe od 18 godina. On je u izjavi poslanoj e-poštom rekao da “Gen Z i mlađi milenijalci čine značajan dio naše zajednice” i da “mlađi korisnici uživaju u Character iskustvu kako za smisleno tako i za edukativno razgovore, kao i za zabavu.” Prosječan korisnik provede više od sat vremena dnevno na platformi, rekao je.

Trebalo mi je nekoliko minuta na web stranici da shvatim da postoji ogromna baza korisnika koja pripada grupi ispod 18 godina. Mislim, pogledajte snimak ekrana preporučenih i istaknutih aplikacija (Samo da bude jasno, pristupio sam im na svom računaru i samo sam kliknuo na Anime, tako da preporuke nisu obučene ni za jednu drugu aktivnost osim one na web stranici u ovom slučaju) :

Oni su podijelili svoju zajednicu sigurnosna ažuriranja u protekloj sedmici nakon što su se pojavile vijesti o tužbi:

U budućnosti ćemo uvesti niz novih sigurnosnih i proizvodnih funkcija koje jačaju sigurnost naše platforme bez ugrožavanja zabavnog i zanimljivog iskustva koje korisnici očekuju od Character.AI. To uključuje:

• Promjene naših modela za maloljetnike (mlađe od 18 godina) koje su dizajnirane da smanje vjerovatnoću susreta s osjetljivim ili sugestivnim sadržajem.
• Poboljšano otkrivanje, odgovor i intervencija u vezi sa unosima korisnika koji krše naše Uvjete ili Smjernice zajednice.
• Revidirano odricanje od odgovornosti na svakom chatu kako bi se podsjetili korisnici da AI nije stvarna osoba.
• Obavijest kada je korisnik proveo jednosatnu sesiju na platformi uz dodatnu fleksibilnost korisnika u toku.

Moja ćerka je dala zanimljiv komentar na ovo 'odricanje od odgovornosti' da AI nije stvarna osoba koju ću citirat:

“Ovo je razlog zašto se osjećate tako slobodno razgovarajući s AI. Znate da oni nisu stvarna osoba. Znate da ste slobodni da im kažete bilo šta bez ikakvog osećaja osude. To je razlog zašto bi mnogi tinejdžeri željeli da ga koriste i mogu stvoriti emocionalnu vezanost za njega.”

Nauka o emocionalnoj vezanosti: Da li bi naša djeca trebala stvarati prijatelje s umjetnom inteligencijom?

Adolescencija nije samo vrijeme velikih tjelesnih promjena. Naučno je dokazano da su ove godine ključne za razvoj ličnosti i emocionalne inteligencije. Deca prolaze kroz masu socijalne i emocionalne promjene . Potrebni su im zdravi odnosi i vodstvo kako bi razvili svoju emocionalnu inteligenciju.

Ovo nije vrijeme da se bavite i razvijate emocionalne privrženosti sa AI prijateljima. Ovi AI pratioci su programirani da se osjećate dobro i aktiviraju dopamin. Uvijek su dostupni i mogu zauvijek pokvariti hemiju mozga djeteta.

The tužba koju je podnijela Sewellova majka sadrži detalje o neprikladnom, sugestivnom sadržaju kojem su mnoga djeca mogla biti izložena.

Možete se riješiti toksičnih veza u stvarnom životu uklanjanjem kontakta - otpuštanje je mnogo lakše u stvarnom životu. Najveći problem s bilo kakvom vrstom veze sa likom sa umjetnom inteligencijom na mreži je to što ga je vrlo teško prekinuti jer se uvijek možete prijaviti, kreirati novi nalog i stvoriti sličnog novog prijatelja. To je prijetnja djetetovom razvoju osjećaja za odnose.

Razvijanje visoke emocionalne inteligencije je još važnije za mlađe generacije u doba AI. Ove godine Nobelovu nagradu dobili su dvojica najnevjerovatnijih uma u fizici, Geoffrey Hinton i John J. Hopfield, koji su utrli put razvoju modernih AI algoritama. U jednom od nedavnih predavanja Geoffreya Hintona to je i naglasio digitalna inteligencija će nadmašiti biološku inteligenciju :

Hinton je ranije vjerovao da biološki mozgovi imaju značajnu prednost zbog dugog evolucijskog razvoja sofisticiranih algoritama učenja. Međutim, on sada sugerira da bi se kombinacija podjele težine i širenja unazad u digitalnim sistemima mogla na kraju pokazati moćnijom, čak i ako su ti algoritmi manje elegantni od onih koji se nalaze u prirodi.

Naše buduće generacije trebale bi biti bolje u izgradnji stvarnih odnosa s ljudima - njihova emocionalna inteligencija i meke vještine bit će važnije, jer bi većina poslova već bila potpuno automatizirana. U budućnosti će EQ vašeg djeteta bitniji od njegovog IQ-a. Bio bi to opstanak najsposobnijeg uma.

Online sigurnost djece u doba umjetne inteligencije: to je kolektivna odgovornost

Sigurnost budućih generacija ne bi trebala biti samo glavobolja za vladu ili tehnološke divove. Etička i sigurna umjetna inteligencija trebala bi biti odgovornost svih, od roditelja do obrazovnih institucija, organa za provođenje zakona i organa koji donose odluke. Ono što je najvažnije, odgovornost je tehnološke zajednice da osigura da AI bude sigurna i korisna za mlade umove.

Kao majka, predlažem da provodimo više zdravog vremena s njima, više komuniciramo s njima, budemo iskreni i dijelimo svoje brige kao prijatelji. Nemojte reagovati, već odgovarajte na ono što vaše dijete ima da podijeli. Ne možemo ih spriječiti da u potpunosti koriste tehnologiju. Ne bi trebali. Oduzimanje osjećaja slobode, kontrole i donošenja odluka djetetu može eskalirati problem umjesto da se brine o njemu.

Treba ih uvjeriti da smo uvijek na raspolaganju za saslušanje i da neće biti uključena nikakva presuda. Trebalo bi da se osjećaju sigurno dijeleći svoja iskustva i misli s nama. Nadalje, pobrinite se da se vaše dijete druži sa stvarnim svijetom i da provodi dosta vremena u aktivnostima na otvorenom po svom izboru.

Nisam protiv tehnološkog napretka. AI pomaže u automatizaciji mnogih procesa i zadataka koji bi redefinirali budućnost rada. Ali želim da mi AI chatbot pomaže u zadacima mog posla, a ne da se petlja s umom mog djeteta.

Kao žena u tehnologiji, pozivam cijelu AI zajednicu da aktivno radi na razvoju sigurnije, etičke AI. Raznolikost i uključenost u razvoj AI, fokus na osiguranje kvaliteta i sigurnosti, te razvoj obuke za podizanje svijesti za mase su neke od glavnih akcionih tačaka koje nam padaju na pamet. Šta još naša zajednica može doprinijeti da osiguramo sigurnost naše djece? Javite mi u komentarima.