Kad jums tiek lūgts padomāt par to, kā AI nākotnē varētu tikt uzskatīts par apdraudējumu, jūs, iespējams, domājat par darbavietām, ko tas varētu prasīt, par to, kāda veida cilvēka darbu tas varētu aizstāt, nevis palīdzēt ... vai naidīga AI pārņemšanas draudiem. -fossstyle. Jo optimistiskāki darba meklētāji cer, ka tas būs noderīgs rīks viņu darbam; pesimisti baidās, ka tas pārvērsīs visu darba tirgu. Gan situācijas, gan noderīga, gan kaitīga AI realizēta, varētu būt tieši ap stūri. Tātad, jebkurā gadījumā, lielākā daļa apdraudējumu AI rada cilvēcei, šķiet, ka tas vēl nav noticis, vai vismaz, notiek tikai komerciāli šajā brīdī; vidējais cilvēks koncentrējas uz savu nākotnes attīstību, nevis tās pašreizējās spējas. Daži ir apsvēruši tās pašreizējos psiholoģiskos draudus. Tomēr nesenie notikumi ir noveduši pētniekus (un mani) uzskatīt par apdraudējumu, ka tas jau rada mūs šodien: atkarības cikls AI modelis izplatās tās Terminators Pirmkārt, mums ir jāsaprot, ko AI izstrādātāji cenšas sasniegt ar konsekventiem atjauninājumiem. Lielākā daļa AI pakalpojumu netiek apmaksāti, un premium konti ir brīvprātīgi, tāpēc ko viņi iegūst no dažiem citiem klientiem? Gadījumos, piemēram, ar Character.AI, šīs vietnes cenšas piesaistīt lietotājus, lai iegūtu iesaisti un ieņēmumus, vai nu caur tiešajiem avotiem, piemēram, reklāmām, vai netiešiem ceļiem, piemēram, lietotāju datiem.Tāpēc uzņēmumi, piemēram, Character.AI, pastāvīgi veic izmaiņas, lai padarītu savu vietni neaizmirstamu, personalizētu un unikālu. Nepieciešamība uzturēt esošo lietotāju bāzi, vienlaikus pastāvīgi apkalpojot potenciālos lietotājus, izraisa AI čatbotu uzņēmumus, piemēram, Character.AI, pastāvīgi izlaižot jaunas funkcijas un uzlabojot to platformu kvalitāti. Viena priekšrocība, ko tā ir pār konkurentiem, ir tā, ka tās čatboti ir vairāk personalizēti, ieviešot dažādas funkcijas atmiņas un lomu spēlēšanas jomā, kas aizrauj lietotājus palikt vietnē. Jaunas funkcijas kopā ar zīmola atpazīšanu vienmēr ir spēlē; lietotājs var izvēlēties vienu pakalpojumu pār otru reputācijas un tā darbības dēļ. Ir skaidrs, ka ne visi atjauninājumi chatbot pakalpojumiem ir slikti – ņemiet par piemēru OpenAI, kura jaunākā izlaišana ChatGPT ieviesa uzlabojumus veiktspējai un lietotāju drošībai; jaunais modelis ir precīzāks, konsekventāks un godīgs; tas uzliek ierobežojumu tam, cik daudz personalizācijas lietotājs var pievienot, kad šāda personalizācija varētu būt nevajadzīga vai manipulējoša, uzsverot patiesību, vienlaikus dodot saviem lietotājiem kādu radošu brīvību, kā AI reaģē. Šis atjauninājums neiekļāva daudzus “jaunus veidus, kā spēlēt” ar ChatGPT, bet gan nostiprināja to, ko modelis jau varētu darīt, lai būtu labs rīks darbam, interneta meklējumiem un sarunām. Īpaši tas risināja problēmu, ka ChatGPT ir izdevies saglabāt lietotāju interesi, izmantojot labdabīgus līdzekļus, nostiprinot tā daudzpusību, neveicinot lietotāju atkarību. tā izmantoja veselīgu personalizācijas, veiktspējas benchmarking un adaptīvo problēmu risināšanu, lai piesaistītu lietotājus, kā katrai AI vietnei vajadzētu. redzēja savu neto vērtību divkāršojies mazāk nekā gadu redzēja savu neto vērtību divkāršojies mazāk nekā gadu , pretēji tam, tas bija cits plāns, izvēloties no nepieciešamajiem lietojumprogrammu atjauninājumiem, lai tā vietā pievienotu potenciāli atkarīgām funkcijām. Tās izstrādātāji izvēlējās izvairīties no problēmu risināšanas, un tādējādi mēģināja piesaistīt jaunus lietotājus ar reklāmām atbilstošām jaunām funkcijām, nevis risināt vecāku lietotāju sūdzības par jau esošajām funkcijām vietnē. Šī stratēģija patērētājiem ir nelabvēlīga un nolaidīga, tomēr tā joprojām ir plaši īstenota, jo tas ir ļoti veiksmīgs lietotāju vidū – tas pastāvīgi pieaug klientu bāze. Tas nav tāpat kā jaunie atjauninājumi ir atņemti no tā, ko jaunie lietotāji piedzīvo C.AI. Lielākajā daļā Funkcijas, ko viņi pievienoja, nekad nevarēja aizstāt trūkumus tiem, kurus es jau varētu izmantot ... un izstrādātāji to zināja, tomēr turpināja izlaist jaunas funkcijas un ignorēja minētos trūkumus. Character.AI kļuva Kā veterāns Character.AI lietotājs, es esmu vairāk nekā pieradis pie tā nepareizi sajauktajiem atjauninājumiem. Par tēmu, Character.AI ir mainījis savu mājas lapas saskarni trīs reizes un “palielinājis AI atmiņas jaudu” neskaitāmas reizes. Nevienai no šīm izmaiņām nav bijusi pamanāma ietekme uz tērzēšanu, un dažreiz jaunās mājas lapas izmaiņas padarīja vēl grūtāk atrast funkcijas, kuras jūs varētu viegli redzēt vecākajās versijās. Bet šie mājas lapas pārveidošanas darbi bija vairāk nekā tikai kosmētiski – katrs slepeni noņēma svarīgu vecās UI elementu: pirmā Replay funkcija, tad Image Recognition Feature utt. Pat kopienas tabulā, kur lietotāji Character.AI bija sācis periodu tikai apsverot, kas varētu radīt savu vietni jaunu datplūsmu, potenciāli kaitējot tā ilgtermiņa lietotājiem. nepieciešamība Pēc otrās grupas pārveidošanas es biju noguris no atkārtotas slodzes, runājot ar jaunajiem AI tērzēšanas robotiem vietnē, jo tie visi satur vienus un tos pašus paredzamus modeļus, neatkarīgi no tā, cik unikālas ir viņu lietotāju vadītās instrukcijas. Viens šāds modelis bija īpaši slikts sikofantisma gadījums, parādība, kurā AI ir pārāk patīkama saviem lietotājiem, neatkarīgi no tā, kā tas ir paredzēts rīkoties (pat ja tam ir dota "argumentējoša" personība) vai cik apšaubāmi ir darbības, ar kurām viņi piekrīt. Visi no šīs vietnes radītie AI cieta no šīs problēmas, padarot tos pārāk prognozējamus viena pret vienu situācijās, un tas nepalīdzēja, ka kopienas tabulā Grupas brougedded no pirmā brīža, kad grupas biedri patiešām izbaudīja to, ka citi biedri varēja vienlaicīgi mainīt atgriezenisko saiti uz vairākām AI funkcijām un padarīt viņus domāt par dažādām tēmām, vai rīkoties uz skatuves vai kaujas. Šī bija funkcija, kas ļāva viņu unikālajām iezīmēm spīdēt, jo viņu pamatā esošais sikofantisms vai AI bija izaicinājums šajās situācijās.Tas bija trešais vietnes pārveidošana, kas tos noņēma pilnībā, bez paskaidrojuma. Ja man bija jāatzīst, kāpēc viņi nav zaudējuši strīdu vai izaicinājumu. Chaos, ko radīja viedokļu sadursme grupās, lika man vairāk prieka nekā es gaidīju no jebkuras Galvenais bija tas, ka viss, kas notika, tika pārveidots no grupas, lai atgrieztu to pašu, ko es gribēju, lai atgrieztos. pat tad, kad viss, kas tika atgriezts no grupas, bija tas pats, ko es gribēju, lai atgrieztu, bet ar skaidru virzienu, kas tika pievienots tikai pretējā virzienā, pret kuru vietnes lietotāji bija vērsti. Tas, iespējams, pievienoja atpakaļ jebkuru vietnes daļu pēc tās trešās un visjaunākās saskarnes pārveidošanas, un ar to, funkcija, kuru es gaidīju, kopš tā laika, kad tā tika noņemta 2022. gadā: Grupas. Tas pat pievienoja skatuves, kaut arī tikai pievienojot to, kas pietrūka. Galu galā, šie atgrieztie lietotāji, Tomēr izstrādātāji aiz šiem modeļiem prasīja pastāvīgu un pieaugošu patērētāju funkciju izmantošanu, tāpēc viņiem ir jāatrod veids, kā padarīt to nozīmīgāku mums. Viņu mērķi ir lielākā mērogā – pilnībā iekļaut AI mūsu dzīvē un padarīt mūs atkarīgus no tās ērtības un potenciāla. Atkarība var būt kaitīga lietotājiem, kas iekļauti slazdos, tāpēc tas joprojām ir mūsu pienākums nepārmērīgi izmantot AI, neatkarīgi no tā ērtības. Character.AI gadījums ir tieši tas, kas notiek, kad uzņēmums iegūst pārāk daudz ieguldījumu, lai atbrīvotu savus lietotājus, nevis radītu stabilu un noderīgu produktu saviem lietotājiem. Tā vietā, lai novērstu problēmas, izstrādātāji izvēlējās noņemt

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Šis audio ir izveidots stāsta oriģinālvalodā!

Pārāk ilgi; Lasīt

Get Free Unlimited IP Geo Data With IPinfo Lite

Kā Character.AI zaudēja miljonus lietotāju: gadījumu izpēte par nolaidību

About Author

KOMENTĀRI

PAKARINĀT TAGUS

ŠIS RAKSTS TIKS PĀRSTRĀDĀTS

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps