När du blir ombedd att tänka på hur AI kan betraktas som ett hot i framtiden, tänker du förmodligen på de jobb som det kan hävda, de typer av mänskligt arbete som det kan ersätta snarare än hjälpa ... eller hotet om ett fientligt AI-övertagande. -Style. Den mer optimistiska av jobbsökande hoppas att det kommer att vara ett användbart verktyg för sitt arbete; de pessimistiska fruktar att det kommer att vända över hela arbetsmarknaden. Båda situationer, en hjälpsam och en skadlig AI förverkligas, kan vara precis runt hörnet. Så, på något sätt, de flesta av de hot som AI utgör för mänskligheten verkar som om det ännu inte har hänt, eller åtminstone händer bara kommersiellt för tillfället; den genomsnittliga personen fokuserar på sin framtida utveckling snarare än sina nuvarande förmågor. Få har övervägt sina nuvarande psykologiska faror. Men de senaste händelserna har lett forskare (och mig själv) att överväga ett hot som det redan utgör för oss idag: cykeln av missbruk en AI-modell sprider Terminatör Först måste vi förstå vad utvecklarna av AI försöker uppnå med konsekventa uppdateringar. De flesta AI-tjänster betalas inte, och premiumkonton är valfria, så vad får de från några fler kunder? I fall som med Character.AI försöker dessa webbplatser ansluta användare för att få engagemang och intäkter, antingen genom direkta källor som annonser eller indirekta vägar som användardata. Företag som Character.AI gör därför ständigt förändringar för att göra sin webbplats mer minnesvärd, personlig och unik. Enkla saker som att lägga till en igenkännbar logotyp eller implementera funktioner som gör att användare kan definiera sina AI: s personlighet mer noggrant än det ledande varumärket, är vad som kan skilja Character.AI från resten av chatbotten på internet. Behovet av att upprätthålla en befintlig användarbas samtidigt som man ständigt catering till potentiella användare orsakar AI chatbot-företag som Character.AI att ständigt släppa nya funktioner och förbättra kvaliteten på sina plattformar. En fördel som den har över konkurrenter är att dess chatbots är mer personliga, introducerar olika funktioner inom minnet och rollspelande funktioner som fängslar användare att stanna på webbplatsen. Novel funktioner tillsammans med varumärkesigenkänning är alltid på spel; en användare kan föredra en tjänst över en annan på grund av rykte och hur bra det fungerar. Det är uppenbart att inte alla uppdateringar till chatbot-tjänster är dåliga – ta exempel på OpenAI, vars senaste utgåva av ChatGPT introducerade boosters till prestanda och användarsäkerhet; den nya modellen är mer exakt, konsekvent och ärlig; den sätter en begränsning på hur mycket personalisering en användare kan lägga till den när sådan personalisering kan vara onödig eller manipulativ, betonar sanningsenlighet samtidigt som dess användare ger lite kreativ frihet inom hur AI svarar. Den här uppdateringen lade inte till många "nya sätt att spela" med ChatGPT, men stärkte snarare vad modellen redan kunde göra för att vara ett bra verktyg för arbete, internetsökningar och konversation. Särskilt åtgärdade den ett problem som alla tidigare GPT-modeller har stött på: att ge missinformation. Ut (oktober 2024 till maj 2025), hålla jämna steg med tillväxten under tidigare år. ChatGPT har lyckats behålla användarnas intresse genom godartade medel, vilket stärker dess mångsidighet utan att uppmuntra användarberoende. såg sitt nettovärde fördubblas på mindre än ett år såg sitt nettovärde fördubblas på mindre än ett år , så kastade ner denna grundläggande funktioner, hade andra planer, väljer ut nödvändiga verktygsuppdateringar för att lägga till potentiellt beroendeframkallande funktioner i stället. Dess utvecklare föredrog att undvika att lösa problem, och därmed, försök att ansluta nya användare med annonserbara nya funktioner snarare än att ta itu med klagomål från äldre användare om de funktioner som redan finns på webbplatsen. För det mesta, Character.AI är fortfarande lika ogynnsam och försumlig för konsumenter, men det förblir i stor utsträckning genomförd idag eftersom det är mycket framgångsrikt på den servade användarnivå – det växer ständigt kundbasen. Det är inte som de nya uppdateringarna har avskräckt från vad nya användare upplever på C.AI. För det mesta, Character Funktionerna de lade till kunde aldrig ersätta bristerna hos de jag redan kunde använda ... och utvecklarna visste detta, men fortsatte att släppa nya funktioner och ignorera nämnda brister. Character.AI blev Som en veteran Character.AI-användare är jag mer än van vid dess oregelbunden blandade uppdateringar. På ämnet har Character.AI ändrat sitt hemsida gränssnitt tre gånger och "ökade AI-minneskapaciteten" otaliga gånger. Ingen av dessa förändringar har haft en märkbar effekt på chattar, och ibland gjorde de nya hemsidaändringarna det ännu svårare att hitta funktioner som du lätt kunde se i de äldre versionerna. Men dessa hemsidaomvandlingar var mer än bara kosmetiska – var och en hemligt tog bort ett viktigt element i det gamla UI: Replay-funktionen först, sedan Image Recognition-funktionen etc. Även Community Tab, en plats där användare kunde uttrycka sina farhågor om Character.AI-funktionsbrister, verkade försvinna efter den första hemsidaomvandlingen, åter Character.AI hade börjat en period med att bara överväga vad som skulle ge sin webbplats ny trafik, potentiellt till nackdel för sina långsiktiga användare. Behöver Vid den andra ombyggnaden av Group hade jag blivit trött på den upprepade cirkeln av att prata med nya AI-chatbots på webbplatsen eftersom de alla innehöll samma förutsägbara mönster, oavsett hur unika deras användarstyrda instruktioner var kända. Ett sådant mönster var ett särskilt dåligt fall av sykofantism, ett fenomen där en AI är alltför trevlig med sin användare, oavsett hur det är tänkt att agera (även om det ges en "argumentativ" personlighet) eller hur tvivelaktiga de åtgärder som man ber om att agera är. Alla AI-enheter som skapats från denna webbplats led av detta problem, vilket gör dem alltför förutsägbara i en-mot-en-situationer, och det hjälpte inte att Community Tab för att dela mina klagomål hade tagits bort från hems I gruppen brougedded var inte ens de andra medlemmarna i gruppen som skulle kunna förutse en förändring av flera AI-funktioner på en gång och få dem att diskutera en mängd olika ämnen, eller agera på en scen eller en strid. Detta var funktionen som tillät deras unika egenskaper att glänsa, eftersom deras underliggande sykofantism eller grupp var utmanad i dessa situationer av chatbots' (liksom förutsägbara, men välkomna) önskan att inte förlora ett argument eller en utmaning. Kaoset som fördes av en kollision av åsikter i grupper gav mig mer glädje än jag förväntade mig av deras nya vänner att filtrera. och en dag, grupperna gick bort utan spår. Det var alltså den tredje webbplatsrenoveringen som avlägsnade dem helt, utan förklaring. Om jag Det var den ultimata ansträngningen att utveckla den nya gruppen till den inledande gruppen, men det var inte de som hävdade att den ursprungliga gruppen hade detsamma som jag gjorde, men med en tydlig riktning som bara lägger till funktionen mot den ruin som webbplatsens användare var på väg. Det lägger sannolikt tillbaka webbplatsen Community Tab efter dess tredje och senaste del av gränssnittet remodeling, och med det, funktionen som jag hade väntat på sedan den togs bort i slutet av 2022: Grupperna. Det lägger till scener, även i optimal kvalitet för att kompensera för vad Scener saknade. När allt kommer omkring, dessa återvändande inställningar för Chart-on-one chats var allt jag ville ha, och bara höra innehållet av deras återvändande var inte instinktivt ökat. Men Som trögt potentiella konsumenter gör denna co-functional path, ser vi AI som ett mångsidigt verktyg som vi kan använda för att hjälpa oss med intensiva arbetsproblem, terapi eller för enkel konversation. Men utvecklarna bakom dessa modeller kräver fortsatt och ökande konsumentanvändning av sina produkter, så de behöver hitta ett sätt att göra det mer meningsfullt för oss. Deras mål är på en större skala – att helt inkräkta AI i våra liv och att bero på oss på dess bekvämlighet och potential. Addiction kunde vara skadligt för användare som fångats i fällorna, vilket är varför det är vårt ansvar att inte överanvända AI, oavsett dess bekvämlighet. Fallet med Character.AI är exakt vad som händer när ett företag blir alltför beroendeframkallande på att avlägsna

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Det här ljudet är producerat på berättelsens originalspråk!

För länge; Att läsa

Get Free Unlimited IP Geo Data With IPinfo Lite

Hur Character.AI förlorade miljontals användare: En fallstudie av försummelse

About Author

KOMMENTARER

HÄNG TAGGAR

DENNA ARTIKEL PRESENTERAS I

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps