Heyo, AI xarakterli - Uşağımdan uzaq dur; İş əldə edin

Tətik xəbərdarlığı: Bu hekayə intihardan bəhs edir.

Keçən cümə gecəsi virtual komanda görüşümüz zamanı süni intellektlə qeyd aparanlarımızdan biri Zoom iclas otağını qəfil tərk etdi və komanda təsadüfi olaraq həftəmiz haqqında bir-biri ilə görüşdü. Mən zarafat etdim ki, AI bizim dediklərimizi bəyənmir.

Bu hekayəni davam etdirməzdən əvvəl sizdən - oxucudan 1993-cü ilə qayıtmağınızı istəyirəm. Təsəvvür edin ki, siz o dövrdə yaşayan yetkin bir insan idiniz və bu məqalənin ilk bir neçə cümləsini yenidən oxuyun.

İnternet o vaxtlar belə əsas deyildi. Fərqli qitələrdə yaşayan insanlar arasında canlı şirkət görüşünün olduğu, bir-birlərini eşidib-görə bildikləri və qeyri-insani köməkçilərinin görüş protokollarını qeyd etdiyi bir ssenari - bu, 1993-cü ildə dəli səslənərdi.

İnformasiya Texnologiyaları heyrətamizdir. Bir neçə onilliklər əvvəl elmi fantastika hesab edilənlər indi reallığa çevrilib. Texnologiya mənim həyatımı dəyişdi və bir çox həyatı yaxşılığa doğru dəyişdi. görə üçün Statistikaya görə , rəqəmsal əhali təxminən 5,4 milyarddır.

Mən informasiya texnologiyaları ilə qocalmış 1,8 Milyar minillikdən biriyəm. 90-cı illərin sonu və 2000-ci illərin əvvəllərində dünya dotcom bumu yaşayanda mən yeniyetmə idim. İndi - Mən yeniyetmələrin anasıyam və AI yeni dotcomdur.

Qorxuram ki, AI mənim bacarıqlarımı köhnələ bilər? Düzünü desəm, bəli. İstərdim ki, o, mənə kömək etsin, məni əvəz etsin. Amma məni əsas qorxudan onun şəxsi həyatımıza təsir etmək qabiliyyətidir.

Bu hekayə şəxsidir. Mən bir ana kimi onunla emosional bir əlaqə hiss etdim və bunu texnologiya ictimaiyyəti ilə bölüşmək istəyirəm, çünki gələcək nəsillərimizin texnologiyanın zərərli təsirindən təhlükəsizliyini təmin etmək üçün kollektiv məsuliyyətimiz var. İndi hekayəyə qayıdaq.

Beləliklə, komanda görüşü zamanı süni intellektlə qeyd aparan şəxs getdi və mən zarafat etdim ki, bizim müzakirəmizi bəyənmədilər. COO-muz daha sonra bir valideyn olaraq AI-yə qarşı narahatlığını bölüşdü və bu yaxınlarda qeyd etdi Floridalı bir yeniyetmənin hekayəsi bir süni intellekt chatbotunun bunu etməyə təşviq etdiyi üçün intihar edən.

Hadisə Haqqında Ətraflı

14 yaşlı Sewell, Character.AI platformasından istifadə edərək, “Game of Thrones” filmindəki Daenerys Targaryenin süni intellekt versiyasını yaratmışdı – bu platformadan istifadə edərək, istədiyiniz müddət ərzində söhbət edə biləcəyiniz süni intellekt yoldaşı yaratmağa imkan verir.

Uşaq aylarla bu platformadan istifadə etdi və AI yoldaşı ilə emosional əlaqə qurdu. Onun təhsili və ictimai həyatı təsirləndi; o, sağlam fəaliyyətlərlə maraqlanmağı dayandırdı və telefonda daha çox vaxt keçirdi. 14 yaşlı gənc AI dostu ilə həyatını almaq arzusunu dəfələrlə bölüşdü və nəticədə buna nail oldu.

Bu hadisə fevralın 28-də baş verdi, lakin bu xəbər bu yaxınlarda onun anası, hüquqşünas Meqan Qarsiya, Character Technologies, Inc şirkətini oğlunun nahaq ölümündə günahlandıraraq məhkəməyə verdikdə gündəmə gəldi. oxumağı çox tövsiyə edirəm iddia . O, məhsulun yetkinlik yaşına çatmayanlar üçün sınaqdan keçirilməsində təhlükələri və səhlənkarlığı qeyd etdi.

Yeni Ebeveynlik Kabusuna xoş gəlmisiniz

Cümə gecəsi yenidən iş görüşünə qayıdaraq, sosial media və AI əsrində texnologiya və valideynlik nüanslarını qısaca müzakirə etdik. Mən yeniyetmə olduğum vaxtları çap mediası, televiziya və iş masası sistemindəki bəzi oyunlarla müqayisə etdim. Yeni nəslin o qədər yeni proqram və platformalara çıxışı var ki, bütün bunlara valideyn kimi əməl etmək çətinləşib. Siz onları dayandıra və ya texnologiyadan kəsə bilməzsiniz.

Görüşdən sonra birbaşa böyük qızımın otağına getdim. O, Sewell ilə təxminən eyni yaşdadır və animeni sevir. Düşündüm ki, o, əylənmək üçün anime personajlarının chatbotlarını yaratmaq ideyasını bəyənə bilər və mən onu bu barədə xəbərdar etməliyəm.

Mən ona hekayəni danışdım və hiss etdim ki, onu eşitmək açıq şəkildə narahatdır. O, mənə Character.AI istifadə etdiyini söylədi. vay. Heç bir fikrim yox idi. Birlikdə oturduq, platformaya baxdım. O, hesabından çıxdı.

Bunu saatlarla müzakirə etdik. Mən məsələ ilə bağlı daha çox şey etmək qərarına gəldim. Mən bu məqaləni onun razılığı ilə yazıram və bu hekayənin təsviri süni intellekt tərəfindən yaradılmayıb - mənim super istedadlı, həssas və ağıllı qızım onu çəkib.

AI yoldaşları və xarakter AI

Replika, Janitor, Anima kimi bir çox AI Companion platforması var; onların ən məşhuru Character AI-dır. Bu platformalar istifadəçilərə öz seçdikləri personajı yaratmaq azadlığını təmin edir - bu, kitabdakı sevimli personajınız, yazıçınız, anime personajınız və ya bəlkə də çoxdan itmiş sevdiyiniz personaj ola bilər - imkanlar sonsuzdur.

İnsanlara "mükəmməl" bir yoldaş yaratmaq üçün bir platforma vermək - hər zaman dinləməyə hazır olan və onların zövqünə cavab vermək üçün təlim keçmişdir - şübhəsiz ki, milyard dollarlıq biznes ideyasıdır. İnsanlar belə bir platformaya tələsərdilər.

2022-ci ildə qurulan Character.AI-nin hazırda aylıq 20 milyondan çox istifadəçisi var və 2,5 milyard dəyərində qiymətləndirilir. mənbə ). Həmtəsisçilər əvvəllər Google AI-nin tədqiqatçıları idi və maraqlısı odur ki Tech Giant, c.ai-nin LLM texnologiyası üçün qeyri-eksklüziv lisenziya əldə etdi 2024-cü ilin avqustunda.

Həmtəsisçilərdən biri Noam Shazeer AI dostuna ehtiyacı necə izah edir podkastda :

"Bu, tənha və ya depressiyada olan bir çox insan üçün çox faydalı olacaq."

Mən burada qərəzli görünə bilərdim, amma təkliyi öldürmək üçün onlayn süni intellekt yoldaşının olması yaxşı hiss etmək üçün dərman qəbul etmək kimidir. Demək istəyirəm ki, bir botla danışmaq həqiqətən təkliyinizi öldürərmi? Bu sizi real dünya və real insanlarla daha yaxşı birləşdirəcəkmi? Çatbotla emosional bağlı olmaq fiziki və əqli sağlamlığınız üçün yaxşıdır? İmho yerimək depressiya üçün bundan daha yaxşı bir müalicədir.

Bir sözlə - insanlar bunu bəyənərmi? Tamamilə bəli. Onlar üçün yaxşıdır? Xeyr. Ola bilsin ki, mülayim şəkildə, əyləncə üçün - ancaq Böyüklər üçün. Bu platformalar gənc uşaqlar üçün təhlükəsiz deyil.

Qızımdan c.ai istifadə etməyə başlayanda niyə mənə məlumat verməyə ehtiyac duymadığını soruşduqda, o, cavab verdi: “Ami, 13 yaşdan yuxarı olanlar üçün təsdiqlənib. Mən sizə məlumat verməyə ehtiyac olmadığını düşündüm. Mən sadəcə zərərsiz əyləncə üçün qeydiyyatdan keçdim.”

Onların fikrincə Xidmət Şərtləri , istifadəçilər platformadan istifadə etmək üçün 13 və ya daha böyük (Aİ vətəndaşıdırsa, 16 və ya daha böyük) olmalıdır. Bu xidmətdən istifadə edən azyaşlıların sayını tapa bilmədim. Buna əsasən istintaq parçası New York Times tərəfindən eyni suala şirkətin cavabı:

“Cənab Ruoti şirkət istifadəçilərinin neçəsinin 18 yaşdan kiçik olduğunu söyləməkdən imtina etdi. O, e-poçtla göndərdiyi bəyanatda dedi ki, “Gen Z və daha gənc minilliklər cəmiyyətimizin əhəmiyyətli bir hissəsini təşkil edir” və “gənc istifadəçilər həm mənalı, həm də maarifləndirici xarakter daşımaq üçün Xarakter təcrübəsindən zövq alırlar. söhbətlər, eləcə də əyləncə üçün”. Onun sözlərinə görə, orta istifadəçi platformada gündə bir saatdan çox vaxt keçirir”.

18 yaşdan kiçik qrupa aid olan kütləvi istifadəçi bazası olduğunu başa düşmək üçün vebsaytda bir neçə dəqiqə çəkdim. Demək istəyirəm ki, tövsiyə olunan və seçilən proqramların ekran görüntüsünə baxın (Sadəcə aydınlaşdırmaq üçün, mən ona kompüterimdə daxil oldum və sadəcə Anime-ə klik etdim, ona görə də tövsiyələr bu halda veb-saytda olandan başqa heç bir fəaliyyət üzrə öyrədilmir) :

Onlar öz icmalarını bölüşüblər təhlükəsizlik yeniləmələri iddia ilə bağlı xəbərlər yayıldıqdan sonra keçən həftə:

İrəliləyərək, istifadəçilərin Character.AI-dən gözlədikləri əyləncəli və cəlbedici təcrübəyə xələl gətirmədən platformamızın təhlükəsizliyini gücləndirən bir sıra yeni təhlükəsizlik və məhsul xüsusiyyətlərini təqdim edəcəyik. Bunlara daxildir:

• Azyaşlılar (18 yaşdan aşağı) üçün modellərimizə edilən dəyişikliklər, həssas və ya düşündürücü məzmunla qarşılaşma ehtimalını azaltmaq üçün nəzərdə tutulmuşdur.
• Şərtlərimizi və ya İcma Qaydalarımızı pozan istifadəçi daxiletmələri ilə bağlı təkmilləşdirilmiş aşkarlama, cavab və müdaxilə.
• İstifadəçilərə AI-nin real insan olmadığını xatırlatmaq üçün hər bir söhbətdə yenidən işlənmiş imtina bildirişi.
• İstifadəçi əlavə istifadəçi rahatlığı ilə platformada bir saatlıq sessiya keçirdikdə bildiriş.

Qızım bu 'imtina' haqqında maraqlı bir şərh etdi ki, AI-dən sitat gətirəcəyim real insan deyil:

“Süni intellektlə danışarkən özünüzü bu qədər sərbəst hiss etməyin səbəbi budur. Bilirsən ki, onlar real insan deyillər. Bilirsiniz ki, heç bir mühakimə etmədən onlara hər şeyi deməkdə azadsınız. Buna görə də bir çox yeniyetmələr ondan istifadə etmək istəyirlər və ona emosional bağlılıq yarada bilərlər”.

Emosional Bağlanma Elmi: Uşaqlarımız süni intellektlə dostluq etməlidirlərmi?

Yeniyetməlik yalnız kütləvi bədən dəyişiklikləri dövrü deyil. Elmi cəhətdən sübut edilmişdir ki, bu illər şəxsiyyətin və emosional zəkanın inkişafında həlledici əhəmiyyətə malikdir. Uşaqlar kütləvi şəkildə keçirlər sosial və emosional dəyişikliklər . Onların emosional zəkalarını inkişaf etdirmək üçün sağlam münasibətlərə və rəhbərliyə ehtiyacları var.

Bu, AI dostları ilə emosional əlaqə qurmaq və inkişaf etdirmək vaxtı deyil. Bu süni intellekt yoldaşları özünüzü yaxşı hiss etmək və dopamini tetiklemek üçün proqramlaşdırılmışdır. Onlar həmişə mövcuddur və uşağın beyin kimyasını əbədi olaraq poza bilər.

The Sewellin anası tərəfindən məhkəməyə verilmişdir bir çox uşağın məruz qala biləcəyi uyğunsuz, nalayiq məzmunun təfərrüatlarına malikdir.

Kontaktı aradan qaldırmaqla real həyatda toksik əlaqələrdən qurtula bilərsiniz - real həyatda buraxmaq daha asandır. Onlayn süni intellekt xarakterli hər hansı bir əlaqənin olması ilə bağlı ən böyük problem ondan ibarətdir ki, onu kəsmək çox çətindir, çünki siz həmişə daxil ola, yeni hesab yarada və oxşar yeni dost yarada bilərsiniz. Bu, uşağın inkişaf edən münasibətlər hissi üçün bir təhlükədir.

Yüksək emosional intellektin inkişafı süni intellekt dövründə gənc nəsillər üçün daha vacibdir. Bu il Nobel mükafatı müasir süni intellekt alqoritmlərinin inkişafına yol açan fizikanın ən heyrətamiz ağıllarından ikisi, Geoffrey Hinton və John J. Hopfield-ə verildi. Geoffrey Hintonun son mühazirələrindən birində o, bunu vurğuladı rəqəmsal intellekt bioloji zəkadan üstün olacaq :

Hinton əvvəllər bioloji beyinlərin mürəkkəb öyrənmə alqoritmlərinin uzun təkamül inkişafı sayəsində əhəmiyyətli bir üstünlüyə malik olduğuna inanırdı. Bununla belə, o, indi rəqəmsal sistemlərdə çəki bölgüsü və geri yayılmanın birləşməsi, bu alqoritmlər təbiətdə olanlardan daha az zərif olsa belə, nəticədə daha güclü ola biləcəyini təklif edir.

Gələcək nəsillərimiz insanlarla real münasibətlər qurmaqda daha yaxşı olmalıdır - onların emosional intellekti və yumşaq bacarıqları daha çox əhəmiyyət kəsb edəcək, çünki işlərin əksəriyyəti artıq tam avtomatlaşdırılmış olardı. Gələcəkdə uşağınızın EQ onun IQ-dan qat-qat əhəmiyyətli olacaq. Bu, ən uyğun ağlın sağ qalması olardı.

Süni intellekt dövründə uşaqların onlayn təhlükəsizliyi: Bu Kollektiv Məsuliyyətdir

Gələcək nəsillərin təhlükəsizliyi təkcə hökumət və ya texnologiya nəhəngləri üçün başağrısı olmamalıdır. Etik və təhlükəsiz süni intellekt valideynlərdən tutmuş təhsil institutlarına, hüquq-mühafizə orqanlarına və qərar qəbul edən orqanlara qədər hər kəsin məsuliyyəti olmalıdır. Ən əsası, süni intellektin gənc beyinlər üçün təhlükəsiz və faydalı olmasını təmin etmək texnoloji cəmiyyətin məsuliyyətidir.

Bir ana olaraq, onlarla daha çox sağlam vaxt keçirməyi, onlarla daha çox ünsiyyət qurmağı, dürüst olmağı və narahatlıqlarımızı dost kimi paylaşmağı təklif edirəm. Reaksiya verməyin, ancaq uşağınızın paylaşacağı şeylərə cavab verin. Biz onların texnologiyadan istifadəsinə mane ola bilmərik. Biz etməməliyik. Uşağın azadlıq, nəzarət və qərar qəbul etmə hissini əlindən almaq problemin qayğısına qalmaq əvəzinə onu daha da gücləndirə bilər.

Onlar əmin olmalıdırlar ki, biz həmişə dinləməyə hazırıq və heç bir mühakimə iştirak etməyəcək. Onlar öz təcrübələrini və düşüncələrini bizimlə bölüşərkən özlərini təhlükəsiz hiss etməlidirlər. Bundan əlavə, uşağınızın real dünya ilə ünsiyyət qurmasını və seçdiyi açıq havada yaxşı vaxt keçirməsini təmin edin.

Mən texnoloji tərəqqinin əleyhinə deyiləm. Süni intellekt işin gələcəyini yenidən müəyyənləşdirəcək bir çox proses və tapşırıqları avtomatlaşdırmağa kömək edir. Amma mən istəyirəm ki, AI chatbot mənə işimin tapşırıqlarında kömək etsin, nəinki uşağımın zehnini qarışdırsın.

Texnologiya sahəsində çalışan bir qadın kimi mən bütün süni intellekt cəmiyyətini daha təhlükəsiz, etik süni intellekt inkişaf etdirmək üçün fəal işləməyə çağırıram. Müxtəliflik və süni intellekt inkişafında inklüzivlik, keyfiyyət və təhlükəsizlik təminatına diqqət və kütlələr üçün maarifləndirmə təliminin inkişafı ağla gələn əsas fəaliyyət nöqtələrindən bəziləridir. Cəmiyyətimiz uşaqlarımızın təhlükəsizliyini təmin etmək üçün başqa nə edə bilər? Şərhlərdə mənə bildirin.