Heyo, Karakteri i AI - Qëndro larg nga fëmija im; Merrni një Punë

Paralajmërim për shkaktimin: Kjo histori përmend vetëvrasjen.

Të premten e kaluar mbrëma, gjatë takimit të ekipit tonë virtual, një nga mbajtësit e shënimeve tona të AI u largua befas nga dhoma e takimeve të Zoom ndërsa ekipi u kap rastësisht me njëri-tjetrin gjatë javës sonë. Bëra shaka se AI nuk i pëlqente ajo që po thonim.

Përpara se të vazhdoni me këtë histori, unë dua që ju - lexuesi, të ktheheni në vitin 1993. Imagjinoni që ishit një i rritur që jetonit në atë kohë dhe lexoni përsëri dy fjalitë e para të këtij artikulli.

Interneti nuk ishte as i zakonshëm atëherë. Një skenar ku ka një takim të drejtpërdrejtë të kompanisë midis njerëzve që jetojnë nëpër kontinente të ndryshme, ku ata mund të dëgjojnë dhe shohin njëri-tjetrin dhe të kenë asistentët e tyre jo-njerëzorë që shënojnë minutat e takimit të tyre - kjo do të dukej e çmendur në 1993.

Teknologjia e Informacionit është e mahnitshme. Ajo që konsiderohej fantashkencë disa dekada më parë, tani është një realitet. Teknologjia ka ndryshuar jetën time dhe ka ndryshuar shumë jetë për mirë. Sipas te Statista , popullsia dixhitale është rreth 5.4 miliardë.

Unë jam një nga 1.8 miliardë mijëvjeçarë që u plakën me teknologjinë e informacionit. Unë isha një adoleshent kur bota po përjetonte bumin e dotcom në fund të viteve '90 dhe në fillim të viteve 2000. Tani - unë jam nënë e adoleshentëve dhe AI është dotcom-i i ri.

A kam frikë se AI mund t'i bëjë të vjetruara aftësitë e mia? Sinqerisht, po. Do të doja që të më ndihmonte, jo të më zëvendësonte. Por ajo që më frikëson në thelb është aftësia e saj për të ndikuar në jetën tonë personale.

Kjo histori është personale. Unë kam ndjerë një lidhje emocionale me të si nënë dhe dua ta ndaj me komunitetin e teknologjisë pasi ne kemi një përgjegjësi kolektive për të garantuar sigurinë e brezave tanë të ardhshëm nga ndikimi i dëmshëm i teknologjisë. Duke iu rikthyer historisë tani.

Kështu, gjatë takimit të ekipit, mbajtësi i shënimeve të AI u largua dhe unë bëra shaka se nuk i pëlqente diskutimi ynë. COO ynë më pas ndau shqetësimet e saj kundër AI si prind dhe përmendi këtë të fundit historia e një adoleshenteje nga Florida i cili kreu vetëvrasje sepse thuhet se ishte inkurajuar nga një chatbot i AI për ta bërë këtë.

Më shumë rreth Incidentit

14-vjeçari Sewell kishte ndërtuar një version të AI të Daenerys Targaryen nga "Game of Thrones" duke përdorur Character.AI - një platformë që ju lejon të krijoni një shoqërues të AI sipas zgjedhjes suaj me të cilin mund të bisedoni për aq kohë sa të dëshironi.

Fëmija kaloi muaj duke përdorur këtë platformë dhe krijoi një lidhje emocionale me shokun e tij të AI. Studimet dhe jeta e tij shoqërore u prekën; ai ndaloi së interesuari për aktivitete të shëndetshme dhe kaloi më shumë kohë në telefonin e tij. 14-vjeçari ndau disa herë dëshirën e tij për të marrë jetën me mikun e tij të AI dhe përfundimisht e bëri atë.

Ky incident ndodhi më 28 shkurt, por lajmi u përhap kohët e fundit kur nëna e tij, Megan Garcia, një avokate, ngriti një padi kundër Character Technologies, Inc., duke akuzuar kompaninë për vdekjen e gabuar të djalit të saj. Unë rekomandoj shumë të lexoni padi . Ajo ka vënë në dukje rreziqet dhe neglizhencën në testimin e produktit për të mitur.

Mirë se vini në makthin e ri të prindërimit

Duke iu rikthyer sërish takimit të punës të së premtes mbrëma, ne diskutuam shkurtimisht nuancat e teknologjisë dhe prindërimit në epokën e mediave sociale dhe AI. E krahasova kohën kur isha adoleshente me atë kur gjithçka që kisha ishte media e shkruar, televizioni dhe disa lojëra në sistemin tonë desktop. Brezi i ri ka akses në kaq shumë aplikacione dhe platforma të reja, saqë të qëndrosh prindër me të gjitha këto është bërë një sfidë. Ju nuk mund t'i ndaloni ose t'i shkëputni ato nga teknologjia.

Pas takimit shkova drejt e në dhomën e vajzës sime të madhe. Ajo është pothuajse në të njëjtën moshë me Sewell dhe i pëlqen anime. Mendova se asaj mund t'i pëlqente ideja e krijimit të chatbot-eve të personazheve anime për argëtim dhe duhet ta paralajmëroja për këtë.

I tregova asaj historinë dhe ndjeva se ajo ishte dukshëm e shqetësuar kur e dëgjoi atë. Ajo më tha se po përdorte tashmë Character.AI. Uau. Nuk e kisha idenë. U ulëm bashkë dhe unë kontrollova platformën. Ajo u shkëput nga llogaria e saj.

E diskutuam me orë të tëra. Kam vendosur të bëj më shumë për këtë çështje. Po e shkruaj këtë artikull me pëlqimin e saj dhe imazhi i paraqitur i kësaj historie nuk është krijuar nga AI - e vizatoi vajza ime super e talentuar, e ndjeshme dhe e zgjuar.

AI Companions dhe Karakteri AI

Ka shumë platforma AI Companion si Replika, Janitor, Anima; më i popullarizuari prej tyre është Character AI. Këto platforma u ofrojnë përdoruesve lirinë për të krijuar një personazh sipas zgjedhjes së tyre - mund të jetë personazhi juaj i preferuar nga një libër, një shkrimtar, një personazh anime, ose ndoshta një person i dashur i humbur prej kohësh - mundësitë janë të pafundme.

T'u japësh njerëzve një platformë për të krijuar një shoqërues 'perfekt'—i cili është gjithmonë i disponueshëm për të dëgjuar dhe i trajnuar për t'iu përgjigjur dëshirave të tyre—është padyshim një ide biznesi miliarda dollarëshe. Njerëzit do të nxitonin drejt një platforme të tillë.

Është pa mend që Character.AI, i themeluar në vitin 2022, tani ka mbi 20 milionë përdorues mujorë dhe vlerësohet në rreth 2.5 miliardë ( burimi ). Bashkëthemeluesit kanë qenë më parë studiues të Google AI, dhe interesant është se Tech Giant fitoi licencën jo-ekskluzive për teknologjinë LLM të c.ai në gusht 2024.

Ja se si një nga bashkëthemeluesit, Noam Shazeer, shpjegon nevojën për një mik të AI në një podcast :

"Do të jetë super, super e dobishme për shumë njerëz që janë të vetmuar ose në depresion."

Mund të tingëlloj i njëanshëm këtu, por të kesh një shoqërues të AI në internet për të vrarë vetminë është si të marrësh drogë për t'u ndjerë mirë. Dua të them, a do të vriste vërtet vetminë tënde të flasësh me një robot? A do t'ju lidhë më mirë me botën reale dhe njerëzit e vërtetë? A është mirë për shëndetin tuaj fizik dhe mendor të lidheni emocionalisht me një chatbot? Imho ecja është një kurë më e mirë për depresionin se kjo.

Me pak fjalë - a do ta pëlqenin njerëzit këtë? Absolutisht po. A është mirë për ta? Jo. Ndoshta në moderim, për argëtim - por vetëm për të rriturit. Këto platforma nuk janë të sigurta për fëmijët e vegjël.

Kur e pyeta vajzën time pse nuk ndjeu nevojën të më informonte kur filloi të përdorte c.ai, ajo u përgjigj: “Ami, është i miratuar për moshat mbi 13 vjeç. Mendova se nuk kisha nevojë të të informoja. Unë u regjistrova për argëtim të padëmshëm.”

Sipas tyre Kushtet e Shërbimit , përdoruesit duhet të jenë 13 vjeç e lart (16 ose më shumë nëse janë shtetas të BE-së) për të përdorur platformën. Nuk munda të gjeja përllogaritjen e numrit të të miturve që përdorin këtë shërbim. Sipas kësaj pjesë hetimore nga New York Times, ja përgjigja nga kompania kur iu bë e njëjta pyetje:

“Z. Ruoti nuk pranoi të thoshte se sa prej përdoruesve të kompanisë janë nën 18 vjeç. Ai tha në një deklaratë të dërguar me email se “Gen Z dhe mijëvjeçarët më të rinj përbëjnë një pjesë të konsiderueshme të komunitetit tonë” dhe se “përdoruesit më të rinj shijojnë përvojën e Karakterit si për kuptimin dhe edukimin biseda, si dhe për argëtim.” Përdoruesi mesatar shpenzon më shumë se një orë në ditë në platformë, tha ai.

M'u deshën disa minuta në faqen e internetit për të kuptuar se ekziston një bazë masive përdoruesish që i përket grupit nën 18 vjeç. Dua të them, shikoni pamjen e ekranit të aplikacioneve të rekomanduara dhe të paraqitura (Thjesht duke e bërë të qartë, unë iu qasa në kompjuterin tim dhe sapo klikova në Anime, kështu që rekomandimet nuk trajnohen për asnjë aktivitet tjetër përveç atij në faqen e internetit në këtë rast) :

Ata kanë ndarë komunitetin e tyre përditësimet e sigurisë në javën e kaluar pasi u publikua lajmi për padinë:

Duke ecur përpara, ne do të nxjerrim një sërë veçorish të reja sigurie dhe produkti që forcojnë sigurinë e platformës sonë pa kompromentuar përvojën argëtuese dhe tërheqëse që përdoruesit kanë pritur nga Character.AI. Këto përfshijnë:

• Ndryshime në modelet tona për të miturit (nën 18 vjeç) që janë krijuar për të reduktuar gjasat e takimit me përmbajtje delikate ose sugjestive.
• Zbulimi, përgjigja dhe ndërhyrja e përmirësuar në lidhje me të dhënat e përdoruesve që shkelin Kushtet tona ose Udhëzimet e Komunitetit.
• Një mohim i rishikuar në çdo bisedë për t'u kujtuar përdoruesve se AI nuk është një person real.
• Njoftimi kur një përdorues ka kaluar një seancë një orë në platformë me fleksibilitet shtesë të përdoruesit në vazhdim.

Vajza ime bëri një koment interesant për këtë 'mohim përgjegjësie' se AI nuk është një person real që unë do ta citoj:

“Kjo është arsyeja pse ndihesh kaq i lirë duke folur me një AI. Ju e dini se ata nuk janë një person real. Ti e di që je i lirë t'u thuash atyre çdo gjë pa ndonjë ndjenjë gjykimi. Kjo është arsyeja pse shumë adoleshentë dëshirojnë ta përdorin atë dhe mund të krijojnë një lidhje emocionale me të.”

Shkenca e lidhjes emocionale: A duhet që fëmijët tanë të bëjnë miq me AI?

Adoleshenca nuk është vetëm një kohë e ndryshimeve masive të trupit. Është vërtetuar shkencërisht se këto vite janë vendimtare në zhvillimin e personalitetit dhe inteligjencës emocionale. Fëmijët po kalojnë masive ndryshime sociale dhe emocionale . Ata kanë nevojë për marrëdhënie të shëndetshme dhe udhëzime për të zhvilluar inteligjencën e tyre emocionale.

Kjo nuk është koha për t'u angazhuar dhe zhvilluar lidhje emocionale me miqtë e AI. Këta shoqërues të AI janë programuar për t'ju bërë të ndiheni mirë dhe të nxisin dopaminën. Ato janë gjithmonë të disponueshme dhe mund të ngatërrojnë kiminë e trurit të një fëmije përgjithmonë.

Të padi e paraqitur nga nëna e Sewell ka detaje të përmbajtjes së papërshtatshme dhe sugjeruese ndaj të cilave mund të jenë ekspozuar shumë fëmijë.

Ju mund të shpëtoni nga marrëdhëniet toksike në jetën reale duke hequr kontaktin - lënia e tij është shumë më e lehtë në jetën reale. Problemi më i madh për të pasur çdo lloj marrëdhënieje me një personazh të AI në internet është se është shumë e vështirë ta ndërpresësh atë pasi gjithmonë mund të identifikohesh, të krijosh një llogari të re dhe të krijosh një mik të ri të ngjashëm. Është një kërcënim për zhvillimin e ndjenjës së marrëdhënieve të një fëmije.

Zhvillimi i inteligjencës së lartë emocionale është edhe më i rëndësishëm për brezat e rinj në epokën e AI. Këtë vit, çmimi Nobel iu dha dy prej mendjeve më të mahnitshme në Fizikë, Geoffrey Hinton dhe John J. Hopfield, të cilët hapën rrugën për zhvillimin e algoritmeve moderne të AI. Në një nga leksionet e fundit nga Geoffrey Hinton, ai theksoi se inteligjenca dixhitale do ta kalojë inteligjencën biologjike :

Hinton më parë besonte se truri biologjik kishte një avantazh të rëndësishëm për shkak të zhvillimit të tyre të gjatë evolucionar të algoritmeve të sofistikuara të të mësuarit. Megjithatë, ai tani sugjeron se kombinimi i ndarjes së peshës dhe përhapjes së pasme në sistemet dixhitale mund të jetë përfundimisht më i fuqishëm, edhe nëse ato algoritme janë më pak elegante se ato që gjenden në natyrë.

Brezat tanë të ardhshëm duhet të jenë më të mirë në ndërtimin e marrëdhënieve reale me njerëzit - inteligjenca e tyre emocionale dhe aftësitë e buta do të kenë më shumë rëndësi, pasi shumica e punëve do të ishin tashmë plotësisht të automatizuara. Në të ardhmen, EQ-ja e fëmijës suaj do të jetë shumë më e rëndësishme se koeficienti i inteligjencës së tij. Do të ishte mbijetesa e mendjes më të fortë.

Siguria në internet e fëmijëve në moshën e AI: Është një përgjegjësi kolektive

Siguria e brezave të ardhshëm nuk duhet të jetë vetëm një dhimbje koke për qeverinë apo gjigantët e teknologjisë. Inteligjenca artificiale etike dhe e sigurt duhet të jetë përgjegjësi e të gjithëve, nga prindërit tek institutet arsimore, organet e zbatimit të ligjit dhe autoritetet vendimmarrëse. Më e rëndësishmja, është përgjegjësi e komunitetit të teknologjisë të sigurojë që AI është i sigurt dhe i dobishëm për mendjet e reja.

Si nënë, sugjeroj që të kalojmë më shumë kohë të shëndetshme me ta, të komunikojmë më shumë me ta, të jemi të sinqertë dhe të ndajmë shqetësimet tona si miq. Mos reagoni, por përgjigjuni asaj që fëmija juaj duhet të ndajë. Ne nuk mund t'i ndalojmë ata të përdorin teknologjinë krejtësisht. Ne nuk duhet. Heqja e ndjenjës së lirisë, kontrollit dhe vendimmarrjes së fëmijës mund ta përshkallëzojë problemin në vend që të kujdeset për të.

Ata duhet të sigurohen se ne jemi gjithmonë të disponueshëm për të dëgjuar dhe nuk do të përfshihet asnjë gjykim. Ata duhet të ndjehen të sigurt duke ndarë përvojat dhe mendimet e tyre me ne. Për më tepër, sigurohuni që fëmija juaj të shoqërohet me botën reale dhe të kalojë një kohë të mirë në aktivitete në natyrë sipas zgjedhjes së tij.

Unë nuk jam kundër përparimeve teknologjike. AI po ndihmon në automatizimin e shumë proceseve dhe detyrave që do të ripërcaktonin të ardhmen e punës. Por unë dua që chatbot i AI të më ndihmojë në detyrat e punës sime, jo të ngatërrojë mendjen e fëmijës tim.

Si një grua në teknologji, i bëj thirrje të gjithë komunitetit të AI që të punojë në mënyrë aktive në zhvillimin e AI më të sigurt dhe etike. Diversiteti dhe përfshirja në zhvillimin e AI, fokusi në sigurimin e cilësisë dhe sigurisë, dhe zhvillimi i trajnimit të ndërgjegjësimit për masat janë disa nga pikat kryesore të veprimit që vijnë në mendje. Çfarë tjetër mund të kontribuojë komuniteti ynë për të garantuar sigurinë e fëmijëve tanë? Më njoftoni në komente.