Хеј, АИ лик - клони се мог детета; Нађите посао

Упозорење о окидачу: Ова прича помиње самоубиство.

Прошлог петка увече, током нашег виртуелног састанка тима, један од наших АИ бележника је нагло напустио Зоом собу за састанке, док је тим лежерно сустигао једни друге око наше недеље. Шалио сам се да се вештачкој интелигенцији није допало оно што смо говорили.

Пре него што наставите са овом причом, желим да се ви – читаоци вратите у 1993. годину. Замислите да сте у то време били одрасла особа и поново прочитајте првих пар реченица овог чланка.

Интернет тада није ни био мејнстрим. Сценарио где постоји компанијски састанак уживо између људи који живе на различитим континентима, где они могу да чују и виде једни друге и да њихови помоћници који нису људи бележе записнике са састанка - ово би звучало сулудо 1993. године.

Информациона технологија је невероватна. Оно што се пре неколико деценија сматрало научном фантастиком, сада је стварност. Технологија је променила мој живот, и променила је многе животе заувек. Према да Статистиста , дигитална популација је око 5,4 милијарде.

Ја сам један од 1,8 милијарди миленијалаца који су остарели уз информационе технологије. Био сам тинејџер када је свет доживљавао процват доткома касних 90-их и раних 2000-их. Сада - ја сам мајка тинејџера, а АИ је нова дотцом.

Да ли се бојим да би вештачка интелигенција могла да учини моје вештине застарелим? Искрено, да. Желео бих да ми помогне, а не да ме замени. Али оно што ме до сржи плаши је његова способност да утиче на наше личне животе.

Ова прича је лична. Осећала сам емоционалну везу са тим као мајка и желим да то поделим са техничком заједницом јер имамо колективну одговорност да обезбедимо безбедност наших будућих генерација од штетног утицаја технологије. Да се сада вратим на причу.

Дакле, током састанка тима, АИ је писао белешке отишао, а ја сам се нашалио да им се не свиђа наша дискусија. Наша ЦОО је затим поделила своја страховања против АИ као родитеља и споменула ово недавно прича о тинејџеру са Флориде који је извршио самоубиство јер га је наводно АИ цхатбот охрабрио да то учини.

Више о инциденту

14-годишњи Сјуел је направио АИ верзију Деенерис Таргарјен из „Игре престола“ користећи Цхарацтер.АИ - платформу која вам омогућава да креирате АИ пратиоца по свом избору са којим можете да ћаскате колико год желите.

Дете је провело месеце користећи ову платформу и успоставило емоционалну везу са својим АИ сапутником. Његове студије и друштвени живот су били погођени; престао је да се интересује за здраве активности и проводио је више времена на свом телефону. Четрнаестогодишњак је више пута поделио своју жељу да одузме живот свом пријатељу са вештачком интелигенцијом и на крају је то учинио.

Овај инцидент се догодио 28. фебруара, али је вест доспела у мејнстрим недавно када је његова мајка, Меган Гарсија, адвокат, поднела тужбу против Цхарацтер Тецхнологиес, Инц., оптужујући компанију за незакониту смрт њеног сина. Топло препоручујем читање тужба . Она је указала на опасности и немар у тестирању производа за малолетнике.

Добродошли у потпуно нову родитељску мору

Враћајући се поново на радни састанак у петак увече, укратко смо разговарали о нијансама технологије и родитељства у доба друштвених медија и вештачке интелигенције. Упоредио сам време када сам био тинејџер са када су све што сам имао били штампани медији, телевизија и неке игрице на нашем десктоп систему. Нова генерација има приступ толиком броју нових апликација и платформи да је родитељски праћење свега овога постало изазов. Не можете их зауставити или искључити из технологије.

После састанка, отишао сам право у собу моје старије ћерке. Она је отприлике истих година као и Севел и ужива у анимеима. Мислио сам да би јој се могла свидети идеја да направи цхатботе од аниме ликова за забаву, и требало би да је упозорим на то.

Испричао сам јој причу и осетио да је била видно узнемирена што је чује. Рекла ми је да већ користи Цхарацтер.АИ. Вау. Нисам имао појма. Сели смо заједно, а ја сам погледао платформу. Одјавила се са свог налога.

Разговарали смо о томе сатима. Одлучио сам да урадим више по том питању. Пишем овај чланак уз њену сагласност, а истакнута слика ове приче није генерисана вештачком интелигенцијом - нацртала ју је моја суперталентована, осетљива и паметна девојка.

АИ пратиоци и АИ карактера

Постоји много платформи АИ Цомпанион као што су Реплика, Јанитор, Анима; најпопуларнији од свих је АИ карактера. Ове платформе пружају корисницима слободу да креирају лик по свом избору – то може бити ваш омиљени лик из књиге, писац, аниме лик или можда давно изгубљена вољена особа – могућности су бескрајне.

Дати људима платформу за стварање „савршеног“ сапутника—који је увек доступан за слушање и обучен да одговори на њихов укус—несумњиво је пословна идеја од милијарду долара. Људи би похрлили на такву платформу.

Неразумно је да Цхарацтер.АИ, основан 2022. године, сада има преко 20 милиона корисника месечно и да је процењен на око 2,5 милијарди ( извор ). Суоснивачи су раније били истраживачи Гоогле АИ, и занимљиво, Тецх Гиант је стекао неексклузивну лиценцу за ц.аи ЛЛМ технологију у августу 2024.

Ево како један од суоснивача, Ноам Схазеер, објашњава потребу за АИ пријатељем на подцасту :

„Биће то супер, супер корисно за многе људе који су усамљени или депресивни.

Можда овде звучим пристрасно, али имати АИ сапутника на мрежи да убије усамљеност је као да узимате дрогу да бисте се осећали добро. Мислим, да ли би разговор са ботом заиста убио твоју усамљеност? Хоће ли вас боље повезати са стварним светом и стварним људима? Да ли је добро за ваше физичко и ментално здравље да се емоционално вежете за цхатбот? Имхо ходање је много бољи лек за депресију од овога.

Укратко - да ли би се ово свидело људима? Апсолутно да. Да ли је то добро за њих? Не. Можда умерено, из забаве - али само за одрасле. Ове платформе нису безбедне за малу децу.

Када сам питао своју ћерку зашто није осетила потребу да ме обавести када је почела да користи ц.аи, она је одговорила: „Ами, одобрен је за старије од 13 година. Мислио сам да не морам да те обавестим. Пријавио сам се само за безазлену забаву.”

Према њиховим Услови коришћења услуге , корисници морају имати 13 или више година (16 или више ако су држављани ЕУ) да би користили платформу. Нисам успео да пронађем процену броја малолетника који користе ову услугу. Према овоме истражни комад од стране Њујорк тајмса, ево одговора компаније на исто питање:

„Г. Руоти је одбио да каже колико је корисника компаније млађе од 18 година. Он је у изјави послатој е-поштом рекао да „Ген З и млађи миленијалци чине значајан део наше заједнице“ и да „млађи корисници уживају у искуству карактера и за смислено и за едукативно разговоре, као и за забаву.” Просечан корисник проведе више од сат времена дневно на платформи, рекао је он.

Требало ми је неколико минута на веб локацији да схватим да постоји огромна база корисника која припада групи испод 18 година. Мислим, погледајте снимак екрана препоручених и истакнутих апликација (само да буде јасно, приступио сам им на свом рачунару и само сам кликнуо на Аниме, тако да препоруке нису обучене ни за једну другу активност осим оне на веб локацији у овом случају) :

Они су поделили своју заједницу безбедносна ажурирања у протеклој седмици након што су се појавиле вијести о тужби:

У будућности ћемо увести низ нових безбедносних и производних функција које јачају безбедност наше платформе без угрожавања забавног и занимљивог искуства које корисници очекују од Цхарацтер.АИ. То укључује:

• Промене наших модела за малолетнике (млађе од 18 година) које су дизајниране да смање вероватноћу да наиђу на осетљив или сугестиван садржај.
• Побољшано откривање, одговор и интервенција у вези са уносима корисника који крше наше Услове или Смернице заједнице.
• Ревидирано одрицање одговорности на сваком ћаскању да подсети кориснике да АИ није стварна особа.
• Обавештење када је корисник провео једносатну сесију на платформи уз додатну флексибилност корисника у току.

Моја ћерка је дала занимљив коментар на ово 'одрицање од одговорности' да АИ није стварна особа коју ћу цитират:

„Ово је разлог зашто се осећате тако слободно разговарајући са АИ. Знате да они нису стварна особа. Знате да сте слободни да им кажете било шта без икаквог осећања осуде. Због тога би многи тинејџери желели да га користе и могу створити емоционалну везаност за њега.”

Наука о емоционалној везивању: да ли би наша деца требало да стварају пријатеље са вештачком интелигенцијом?

Адолесценција није само време великих телесних промена. Научно је доказано да су ове године кључне у развоју личности и емоционалне интелигенције. Деца пролазе кроз масовно друштвене и емоционалне промене . Њима су потребни здрави односи и смернице да би развили своју емоционалну интелигенцију.

Ово није време да се ангажујете и развијате емоционалне везе са АИ пријатељима. Ови АИ пратиоци су програмирани да се осећате добро и да активирају допамин. Они су увек доступни и могу заувек да покваре хемију мозга детета.

Тхе тужба коју је поднела Сјуелова мајка садржи детаље о неприкладном, сугестивном садржају којем су многа деца можда била изложена.

Можете се ослободити токсичних веза у стварном животу тако што ћете уклонити контакт - отпуштање је много лакше у стварном животу. Највећи проблем са било каквом врстом везе са ликом са вештачком интелигенцијом на мрежи је то што га је веома тешко прекинути јер се увек можете пријавити, креирати нови налог и створити сличног новог пријатеља. То је претња за развој осећаја за односе код детета.

Развијање високе емоционалне интелигенције је још важније за млађе генерације у доба вештачке интелигенције. Ове године Нобелову награду добили су двојица најневероватнијих ума у физици, Џефри Хинтон и Џон Џеј Хопфилд, који су утрли пут развоју модерних алгоритама вештачке интелигенције. У једном од недавних предавања Џефрија Хинтона он је то и нагласио дигитална интелигенција ће надмашити биолошку интелигенцију :

Хинтон је раније веровао да биолошки мозгови имају значајну предност због свог дугог еволуционог развоја софистицираних алгоритама учења. Међутим, он сада сугерише да би се комбинација дељења тежине и ширења уназад у дигиталним системима на крају могла показати моћнијом, чак и ако су ти алгоритми мање елегантни од оних који се налазе у природи.

Наше будуће генерације би требало да буду боље у изградњи стварних односа са људима – њихова емоционална интелигенција и меке вештине ће бити важније, јер би већина послова већ била потпуно аутоматизована. У будућности, ЕК вашег детета ће бити важнији од његовог ИК-а. Био би то опстанак најспособнијег ума.

Онлајн безбедност деце у доба вештачке интелигенције: то је колективна одговорност

Безбедност будућих генерација не би требало да буде само главобоља за владу или технолошке гиганте. Етичка и безбедна вештачка интелигенција треба да буде одговорност свих, од родитеља до образовних институција, органа за спровођење закона и органа који доносе одлуке. Оно што је најважније, одговорност је технолошке заједнице да осигура да АИ буде безбедна и корисна за младе умове.

Као мајка, предлажем да проводимо више здравог времена са њима, више комуницирамо са њима, будемо искрени и делимо своје бриге као пријатељи. Не реагујте, већ одговарајте на оно што ваше дете има да подели. Не можемо их спречити да у потпуности користе технологију. Не би требало. Одузимање дететовог осећаја слободе, контроле и доношења одлука може ескалирати проблем уместо да се брине о њему.

Требало би да буду уверени да смо увек на располагању за саслушање и да неће бити укључена никаква пресуда. Требало би да се осећају безбедно када деле своја искуства и мисли са нама. Штавише, побрините се да се ваше дете дружи са стварним светом и да проводи доста времена у активностима на отвореном по свом избору.

Нисам против технолошког напретка. АИ помаже у аутоматизацији многих процеса и задатака који би редефинисали будућност рада. Али желим да ми АИ цхатбот помаже у задацима мог посла, а не да се петља са умом мог детета.

Као жена у технологији, позивам целу АИ заједницу да активно ради на развоју безбедније, етичке вештачке интелигенције. Разноликост и укљученост у развој вештачке интелигенције, фокус на обезбеђење квалитета и безбедности и развој обуке за подизање свести за масе су неке од главних тачака деловања које нам падају на памет. Шта још наша заједница може да допринесе да обезбеди безбедност наше деце? Јавите ми у коментарима.