Katika miongo kadhaa iliyopita, kasi ya kupungua ya maendeleo ya AI bila shaka imeshakikisha ustawi wa mamilioni ya watu, na, na jitihada ndogo za kukaa kwenye njia hiyo, teknolojia itabidi kuendelea hivyo kwa miongo kadhaa ijayo. Kwa mtazamo wangu, hata hivyo, hatua za hivi karibuni zilizochukuliwa na makampuni mengi ya AI, pamoja na serikali za watengenezaji wengi wa AI wakuu, kwa jumla, zinaonyesha kutofautiana na njia ya faida ya ubinadamu. Hata hivyo, na utafiti fulani mpya unaonyesha madhara ya uwezo wa chatbots za AI, ni muhimu kwamba tunapaswa kuanza kuzingatia uwezekano wa udhibiti wa kupunguza kiwango cha upatikanaji wao. Kuongozwa na madhara ya kipengele cha Grok Companions, makala hii inazungumzia haja ya udhibiti wa serikali, kuzuia dhana za kawaida zinazotumika kulinda usambazaji wa kibiashara wa chatbots mbalimbali za AI, na inapendekeza jinsi sheria za baadaye zinaweza kudhibiti au kuzuia upungufu wa usalama ndani ya mifano ya chatbot ya sasa. Matatizo ya Groke Grok daima imekuwa na nafasi kama mojawapo ya mifano ya kibiashara ya AI yenye mapambano tangu kuanzishwa kwake, mara kwa mara kuwa mwangaza wa ishara kwa suala la udhibiti wa makampuni juu ya mifano ya AI katika jaribio la kushangaza la kutokuwa na mafanikio la Elon Musk kutumia kama chombo cha kukuza ajenda ya haki juu ya X. Hata hivyo, hivi karibuni, Grok ilizindua kipengele chake kipya cha Companions, ambacho kilisababisha mjadala zaidi. Kwenye uso, kipengele cha Companions ni mfululizo wa chatbots katika kumbukumbu ya huduma za chatbot za awali kama wale zinazotolewa na Meta AI na Washirika wawili wa kwanza ni pamoja na Rudi, Panda Red, na Ani, msichana blonde anime, wote ni pamoja na toleo nzuri ya Grok pamoja na avatar inayofuata. Mtaalamu wa AI Mtaalamu wa AI Ripoti mbalimbali za mtandaoni zinathibitisha sifa za kimapenzi za chatbot, na waandishi wa habari kadhaa wanachunguza hasa 'kiwango cha upendo' ambacho mtumiaji anaweza kuthibitisha kufungua mazungumzo ya ngono zaidi, pamoja na mabadiliko yanayohusiana na avatar. Kwa kuwa sikuwa na nia ya kununua usajili wa $ 30 kwa mwezi wa SuperGrok ili upatikanaji wa kipengele cha Companions, sikuwa na uwezo wa kuthibitisha kwa kujitegemea baadhi ya madai kuhusu chatbot; mtandao, kwa upande mwingine, ilionekana kukubaliana juu ya jambo moja: chatbot hii maalum ilikuwa ya ujasiri. Rudi, kwa vile inawezekana, alichukua mjadala kidogo sana. Cartoon Red Panda ina tabia ya kukata tamaa na mashaka ya giza ambayo wengi waliona kuwa ya ajabu na ya ajabu. Wataalam wengi walilazimika kuingilia upande wa tabia hii, badala ya kukataa kama moja ndogo muhimu, kwa ujumla ilihudhuria watoto wa Gen-Z. Kwa ukweli, nilipata wahusika wote wawili wa chatbot kabisa. Badala yake, kile ambacho kilikuwa kinachohusika ni mchakato tofauti na kupokea chatbot hii ya kimapenzi. Kwanza kabisa, Companions ni, miongoni mwa bidhaa zilizotolewa na "mawaziri wa sekta" wa AI (kwa mfano, OpenAI, DeepMind, Anthropic, Meta), chatbot ya kwanza iliyoundwa hasa kushiriki katika kucheza jukumu la kimapenzi, licha ya wasiwasi wa maadili ya kawaida kutoka kwa madai ya madhara ya muda mrefu ya kisaikolojia kwa matumizi ya idadi ya watu wenye hatari. Utaratibu unaoeleweka wa udhibiti unaohusiana na chatbots kama hizi umejulikana kwangu mara moja, pamoja na ukweli kwamba, badala ya kujibu sauti chache za kutojali, xAI ilikuwa na uwezo wa kuchapisha bidhaa bila adhabu. Je, teknolojia mpya inapaswa kufuatiliwa kwa karibu ili kulinda watumiaji, au inapaswa kupewa uwezo wa kukua na kuendelezwa? Uwajibikaji na Innovation Kama ilivyo kwa teknolojia zote za mapema, athari za kisaikolojia za matumizi ya chatbot ya AI kwa binadamu hazijathibitishwa kwa kisayansi wala hazijathibitishwa empirically. uhusiano mbaya kati ya ustawi na matumizi ya chatbot. ya kupatikana ya kupatikana Pamoja na hayo, teknolojia hizi zisizojulikana bado ni vizuri katika mchakato wa kuingilia vyombo vya habari vya kawaida. Katika kufikiria kama teknolojia hizi ni mbaya au sio, wasomaji wa teknolojia na wabunifu wa sera sawa kusahau hatua muhimu kwamba kuzingatia kama hiyo, kwa wazo la wema, kamwe kuwa wasiwasi muhimu katika nafasi ya kwanza ndani ya teknolojia ya kibiashara. abiria wa ndege hawatakuwa na furaha kujua kwamba ndege yao uzoefu wa kushindwa. Unaweza Vivyo hivyo, washiriki wa majaribio ya kliniki hawatakuwa vizuri na kujua kwamba wanyama wengi hawakupata kabla yao katika mchakato wa majaribio. Moja ya kanuni muhimu zaidi za uhandisi ni kwamba bila kujali chochote, usalama daima huja kwanza. Ili kupata wazo kuhusu hatari zinazowezekana za chatbots hizi, katika hali yoyote, tunahitaji tu kuangalia mifano ya vijana wawili ambao mauaji yao yamehusishwa na AI kuwa washirika katika mawazo yao ya kujiua. Wengi wa wafuasi wa mafundisho ya sasa "kuendeleza sasa, kurekebisha baadaye" wanaonyesha wazi: tumefungwa katika mashindano ya ubunifu na China. Jibu langu ni moja ya makubaliano kamili: sisi Kwa kweli, kufungwa katika AI "mchezo wa silaha", na bidhaa za wakati wetu zina uwezekano wa kubadilishwa ndani ya silaha za vita vya cyber, miongoni mwa mambo mengi mengine. Pamoja na hili, ninasisitiza kwamba haja ya uvumbuzi sio kesi ya kupuuza usalama - hatuwezi kamwe kudhani kuwa maendeleo ya haraka ya teknolojia ni ya kipekee na usalama wa watumiaji. ya kuwa, 
 
 "Usalama na kuboresha bidhaa hutokea kama matokeo ya makosa na upungufu uliopatikana ndani ya utekelezaji mkubwa." "Usalama na kuboresha bidhaa hutokea kama matokeo ya makosa na upungufu uliopatikana ndani ya utekelezaji mkubwa." Kuna njia nyingi za kujaribu uaminifu na usalama wa bidhaa ndani ya mipangilio ya majaribio ya beta. Ingawa majaribio haya bila shaka yamefanywa (kwa mfano, OpenAI inatoa mifano mpya kwa watumiaji wa Pro kabla ya aina nyingine za watumiaji), sio ubaya kusema kwamba utekelezaji wa wingi wa chatbots nyingi zinazopatikana kibiashara unafanywa kwa njia ambayo haina wasiwasi kuhusu usalama wa mtumiaji, na mifano mingi ya ChatGPT. Hata kama utekelezaji wa kibiashara ulikuwa unahitajika ili kupata matatizo mengi haya, ingekuwa sahihi zaidi ikiwa tahadhari za kutosha zilichukuliwa ili kuhakikisha usalama wa makundi ya watumiaji magumu, ambayo kwa sasa sio kesi. kushindwa kushindwa 
 
 "Utekelezaji unaoendelea wa mifano mpya una matokeo ya transcripts za chat ambazo zinakusaidia sana mafunzo ya mifano mpya, tofauti na bidhaa za jadi, zisizo za AI, ambazo hakuna zinafaidika kwa kiwango kikubwa na pool kubwa ya maoni ya mtumiaji." "Utekelezaji unaoendelea wa mifano mpya una matokeo ya transcripts za chat ambazo zinakusaidia sana mafunzo ya mifano mpya, tofauti na bidhaa za jadi, zisizo za AI, ambazo hakuna zinafaidika kwa kiwango kikubwa na pool kubwa ya maoni ya mtumiaji." Chat transcripts ni kawaida si kusindika verbatim kama sehemu ya mchakato RLHF kutumika na makampuni kama OpenAI na Google. Ingawa wanaweza kweli taarifa usalama na ushiriki mfano wa chatbots kulingana, data pipe tofauti, kwa kawaida ubora wa juu, data ya kiufundi kuundwa au kuthibitishwa na binadamu, kuathiri mambo ya mafunzo ya AI muhimu zaidi kwa ajili ya maendeleo ya ujasiri utendaji na aina nyingine ya ujuzi maalum (kwa mfano, coding, matematics ufumbuzi, nk). Natumaini, nimeonyesha kuwa haja ya uvumbuzi sio sababu ya msingi ya upungufu huu wa usalama - badala yake, ukosefu wa juhudi ya pamoja juu ya mikataba ya usalama na majaribio ni. Jukumu la Utawala Suluhisho la dhahiri kwa ukosefu wa viwango vya usalama hapo juu ni kuongeza tu udhibiti wa serikali juu ya mazoezi ya mafunzo na usambazaji wa chatbots. Kitu ambacho si dhahiri, hata hivyo, ni jinsi mapendekezo haya ya kutosha yanatumika katika mazoezi. Mwanzoni mwa karne ya 20, Marekani ilijifunza kupitia marufuku masomo muhimu kwamba marufuku ngumu, yote juu ya bidhaa mbaya haifanyi kazi. Badala yake, marufuku ya pombe bila kuondoa kiini cha kutaka yake, ilisababisha baridi ya soko nyeusi, kuongezeka badala ya kupunguza matumizi ya jumla ya pombe. Mwishoni mwa karne ya 20, ili kupambana na matumizi makubwa ya sigara, serikali ya Marekani ilichukua mbinu tofauti: badala ya kuzuia matumizi ya sigara moja kwa moja, walipunguza mahitaji ya kijamii ya bidhaa za sigara kwa kuchapisha ripoti zilizotumika kwa kina kuelezea jinsi zinaweza kusababisha saratani ya ngozi, kuamuru makampuni ya sigara kuweka taarifa za wazi juu ya kila bidhaa, na kupunguza upana wa matangazo ya sigara. matumizi ya sigara kutoka kiwango cha kihistoria cha karibu 4000 hadi karibu sigara 800 kwa kila mtu kwa mwaka. Kuanguka Kuanguka Ili kuondoa historia, udhibiti wa serikali juu ya chatbots isiyo salama unapaswa kwenda zaidi ya vikwazo vya kisheria vya matumizi na maendeleo. Wao pia wanapaswa kutafuta kupunguza kuruhusiwa kwa jamii ya kula bidhaa hizi, iwe kwa njia ya kampeni au utafiti wa umma. Pamoja na hili, bado haijulikani kiwango gani serikali inaweza kuathiri mabadiliko makubwa zaidi ya kijamii, na maoni ya sasa ya umma yanalenga mwelekeo wa vyombo vya habari vya kijamii kwa kiwango kikubwa kuliko kuelekea mabadiliko ya kisiasa na kiuchumi. Imeandikwa na Thomas Yin

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Sauti hii imetolewa katika lugha asilia ya hadithi!

Kuzuia “Innovation dhidi ya Usalama” katika Utawala wa AI

About Author

MAONI

HANG TAGS

MAKALA HII ILIWASILISHWA NDANI

Related Stories

Details of the Aerial Voyage.—Kennedy silenced

Jinsi $ TRUTH token ya Swarm Network inapanga kukabiliana na taarifa mbaya kupitia uhakiki wa Blockchain

Master Crypto Security: Your Complete Guide to Safe Wallet Management

#ellenBrain Turns a Long Weekend Into: HackerNoon Swag Around the World

Details of the Aerial Voyage.—Kennedy silenced

Jinsi $ TRUTH token ya Swarm Network inapanga kukabiliana na taarifa mbaya kupitia uhakiki wa Blockchain

Master Crypto Security: Your Complete Guide to Safe Wallet Management

#ellenBrain Turns a Long Weekend Into: HackerNoon Swag Around the World

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps