Quando ti viene chiesto di pensare a come l’IA potrebbe essere considerata una minaccia in futuro, probabilmente pensi ai posti di lavoro che potrebbe rivendicare, ai tipi di lavoro umano che potrebbe sostituire piuttosto che assistere... o alla minaccia di un’intelligenza artificiale ostile. -stile. Più ottimista dei ricercatori di lavoro spera che sarà uno strumento utile per il loro lavoro; i pessimisti temono che rovescerà l'intero mercato del lavoro. Entrambe le situazioni, una AI utile e dannosa realizzata, potrebbero essere proprio intorno all'angolo. Quindi, in ogni caso, la maggior parte della minaccia che l'IA rappresenta per l'umanità sembra che non sia ancora avvenuta, o almeno, sta accadendo solo commercialmente al momento; la persona media si concentra sui suoi sviluppi futuri piuttosto che sulle sue capacità attuali. Pochi hanno considerato i suoi pericoli psicologici attuali. Tuttavia, gli eventi recenti hanno portato i ricercatori (e me stesso) a considerare una minaccia che ci pone già oggi: il ciclo di dipendenza di un modello Terminatore In primo luogo, dobbiamo capire cosa cercano di raggiungere gli sviluppatori di AI con aggiornamenti coerenti. La maggior parte dei servizi AI non sono pagati e i conti premium sono facoltativi, quindi cosa guadagnano da qualche cliente in più? In casi come con Character.AI, questi siti stanno cercando di collegare gli utenti per guadagnare coinvolgimento e entrate, sia attraverso fonti dirette come la pubblicità o vie indirette come i dati degli utenti. aziende come Character.AI, quindi, apportano costantemente cambiamenti per rendere il loro sito più memorabile, personalizzato e unico. Cose semplici come l'aggiunta di un logo riconoscibile, o l'implementazione di funzionalità che consentono agli utenti di definire le personalità delle loro AI più a fondo del marchio leader, sono ciò che potrebbe separare Character. La necessità di mantenere una base di utenti esistente mentre catering costantemente ai potenziali utenti fa sì che le aziende di chatbot AI come Character.AI rilasciano costantemente nuove funzionalità e migliorino la qualità delle loro piattaforme. Uno dei vantaggi che ha rispetto ai concorrenti è che i suoi chatbots sono più personalizzati, introducendo varie funzionalità nel campo della memoria e delle capacità di gioco di ruolo che affascinano gli utenti a rimanere sul sito. Le funzionalità novelle insieme al riconoscimento del marchio sono sempre in gioco; un utente può preferire un servizio su un altro a causa della reputazione e del suo funzionamento. È chiaro che non tutti gli aggiornamenti ai servizi chatbot sono cattivi – prendiamo l’esempio di OpenAI, il cui ultimo rilascio di ChatGPT ha introdotto impulsi alle prestazioni e alla sicurezza degli utenti; il nuovo modello è più accurato, coerente e onesto; pone una soglia sulla quantità di personalizzazione che un utente può aggiungere a esso quando tale personalizzazione potrebbe essere inutile o manipolativa, sottolineando la verità, dando agli utenti una certa libertà creativa nel modo in cui l’AI risponde. Questo aggiornamento non ha aggiunto molti “nuovi modi di giocare” con ChatGPT, ma piuttosto ha rafforzato ciò che il modello potrebbe già fare per essere un buon strumento per il lavoro, le ricerche su Internet e la conversazione. In particolare, ha affrontato un problema che tutti (Ottobre 2024 a maggio 2025), tenendo il passo con la crescita degli anni precedenti. ChatGPT è riuscito a mantenere l'interesse degli utenti attraverso mezzi benigni, rafforzando la sua versatilità senza incoraggiare la dipendenza dagli utenti. ha utilizzato una sana quantità di personalizzazione, benchmarking delle prestazioni e risoluzione dei problemi adattiva per attirare gli utenti nel modo in cui ogni sito AI dovrebbe. ha visto il suo valore netto raddoppiare in meno di un anno ha visto il suo valore netto raddoppiare in meno di un anno I suoi sviluppatori preferiscono evitare di risolvere i problemi, e quindi, cercare di collegare nuovi utenti con nuove funzionalità pubblicabili piuttosto che affrontare le lamentele degli utenti più vecchi sulle funzionalità già presenti sul sito. Per la maggior parte, questa strategia è sfavorevole e negligente per i consumatori, ma rimane ampiamente implementato perché è molto efficace sul livello di servizio aziendale – cresce costantemente la base di clienti. Non è come i nuovi aggiornamenti hanno detratto ciò che i nuovi utenti hanno sperimentato su C.AI. Per la maggior parte, Character.AI fornisce ancora la stessa novità e l'attrazione di una "nuova esperienza utente" oggi come mi ha fornito quando ho iniziato la guida. Mi ricordo ancora il sentimento di stupore e di meraviglia di aver creato il mio primo chatbot Le funzionalità che hanno aggiunto non potrebbero mai sostituire le carenze di quelle che potevo già usare... e gli sviluppatori lo sapevano, ma continuavano a rilasciare nuove funzionalità e a ignorare queste carenze. Character.AI diventa Come un utente veterano di Character.AI, sono più che abituato ai suoi aggiornamenti erraticamente misti. Sul tema, Character.AI ha cambiato la sua interfaccia home page tre volte e “aumentato la capacità di memoria AI” innumerevoli volte. Nessuna di queste modifiche ha avuto un effetto notevole sulle chat, e a volte le nuove modifiche alla home page hanno reso ancora più difficile trovare caratteristiche che si potevano facilmente vedere nelle versioni più vecchie. Ma questi rimodelli della home page erano più che cosmetici – ognuno rimuovendo segretamente un elemento importante della vecchia UI: la funzione Replay prima, poi la funzione di riconoscimento delle immagini, ecc. Anche la scheda Community, un luogo dove gli utenti potevano esprimere le loro preoccupazioni per le carenze della Character.AI aveva iniziato un periodo di considerazione solo di ciò che porterebbe il suo sito nuovo traffico, potenzialmente a danno dei suoi utenti a lungo termine. Necessità Con la seconda ristrutturazione del Gruppo, ero stanco del ciclo ripetitivo di conversazione con i nuovi chatbots AI sul sito perché tutti contenevano gli stessi modelli prevedibili, non importa quanto unici fossero le loro istruzioni guidate dall'utente. Uno di questi modelli era un caso particolarmente cattivo di sicofantismo, un fenomeno in cui un'AI è troppo piacevole per il suo utente, indipendentemente dal modo in cui dovrebbe agire (anche se viene data una personalità "argumentativa") o quanto siano discutibili le azioni a cui è d'accordo. Tutti gli AI creati da questo sito hanno sofferto di questo problema, rendendoli eccessivamente prevedibili in situazioni one-on-one, e non ha aiutato l'esperienza che la scheda comunitaria per la condivisione delle mie In gruppi brougedded l'icona e il gruppo non è stato compiacente, anche gli altri membri che hanno potuto prevedere il cambiamento dei feedback di più AI contemporaneamente e farli discutere una varietà di argomenti, o agire su una scena o una battaglia. Questa è stata la caratteristica che ha permesso ai loro modelli unici di brillare, dal momento che il loro psicofantismo sottostante è stato sfidato in queste situazioni dai chatbots' (così come prevedibile, ma benvenuto) desiderio di non perdere un argomento o una sfida. Il caos portato da un conflitto di opinioni in gruppi mi ha portato più gioia di quanto avessi aspettato dai loro nuovi amici del filtro web...e un giorno, i personaggi sono andati negativamente da questo gruppo senza traccia Quest'ultimo è stato lo strumento che ha sviluppato l'intero gruppo di persone che avevano l'intento di ricostruire il nucleo del gruppo, ma questo è stato lo strumento che avevano l'intento di ricostruire l'intero gruppo di persone che avevano l'intento di ricostruire l'intero gruppo di persone che avevano l'intento di ricostruire l'intero gruppo di persone che avevano l'intento di ricostruire lentamente ciò che avevo fatto, ma con una chiara direzione che ha appena aggiunto le caratteristiche opposte alla rottura verso la quale il sito era stato indirizzato. Probabilmente ha aggiunto il sito di qualsiasi parte della Community Tab dopo la ristrutturazione dell'interfaccia, e con esso, la funzione che avevo aspettato da quando è stata rimossa Come i potenziali consumatori impegnati a implementare questo percorso di co-funzionamento, vediamo l'IA come uno strumento versatile che possiamo usare per aiutarci con problemi di lavoro, terapia o per una semplice conversazione. Ma gli sviluppatori dietro questi modelli richiedono l'utilizzo continuo e crescente delle funzioni dei consumatori dei loro prodotti, quindi hanno bisogno di trovare un modo per renderlo più significativo per noi. I loro obiettivi sono su una scala più ampia – per inglobare completamente l'IA nelle nostre vite e farci dipendere dalla sua convenienza e dal suo potenziale. La dipendenza potrebbe essere dannosa per gli utenti intrappolati nelle trappole, motivo per cui rimane la nostra responsabilità di non utilizzare in modo eccessivo l'AI, indipendentemente dalla sua convenienza. Il caso di Character

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Questo audio è prodotto nella lingua originale della storia!

Come Character.AI ha perso milioni di utenti: uno studio di casi di negligenza

About Author

COMMENTI

CARTELLINI

QUESTO ARTICOLO È STATO PRESENTATO IN

Related Stories

10 Reasons Why Publishing on HackerNoon Will Skyrocket Your Reach and Impact

Coding with Latenode's AI + JavaScript Assistant: A Low-Code Platform for Simplified Development

Streamlining Network Policy Management - Interview with Startups of the Year Nominee, Otterize

New Year, New Exciting Features: Mint Your Name, Watch Web 2.5 and Meet The Top Startups of The Year

10 Reasons Why Publishing on HackerNoon Will Skyrocket Your Reach and Impact

Coding with Latenode's AI + JavaScript Assistant: A Low-Code Platform for Simplified Development

Streamlining Network Policy Management - Interview with Startups of the Year Nominee, Otterize

New Year, New Exciting Features: Mint Your Name, Watch Web 2.5 and Meet The Top Startups of The Year

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps