Nel corso dell’ultimo decennio, il ritmo di svolta dello sviluppo dell’IA ha senza dubbio garantito il benessere di milioni di persone e, con un piccolo sforzo per rimanere su una tale traiettoria, la tecnologia rimarrà sicuramente in questo modo per altri decenni a venire. A mio parere, tuttavia, le recenti azioni intraprese da molte aziende di intelligenza artificiale, così come i governi di molti sviluppatori leader di intelligenza artificiale, nel complesso costituiscono una deviazione dal percorso a beneficio dell'umanità. Ispirato alle implicazioni della funzione Grok Companions, questo articolo discute la necessità di una regolamentazione governativa, sfidando gli errori comuni usati per difendere la distribuzione commerciale di vari chatbots AI, e propone come la legislazione futura potrebbe controllare o vietare le carenze di sicurezza all'interno dei modelli di chatbot attuali. I problemi di Grock Grok ha sempre mantenuto un posto come uno dei modelli di intelligenza artificiale commerciali più controversi sin dalla sua fondazione, diventando periodicamente un punto focale simbolico per la questione del controllo aziendale sui modelli di intelligenza artificiale nei tentativi hilariamente falliti di Elon Musk di usarlo come strumento per avanzare un'agenda pro-destra su X. Tuttavia, recentemente, Grok ha spinto fuori la sua nuova funzione Companions, che ha attirato ancora più controversia. In superficie, la funzione Companions è una serie di chatbots che ricorda i servizi chatbot precedenti come quelli offerti da Meta AI e I primi due compagni includono Rudi, un giurato Panda Rosso, e Ani, una bionda ragazza di anime, entrambi costituiti da una versione raffinata di Grok e un avatar accompagnante. Caratteri.it Caratteri.it I media speculativi hanno, senza sorpresa, concentrato la maggior parte della loro attenzione su Ani. Una varietà di rapporti online confermano le caratteristiche intrinsecamente romantiche del chatbot, con diversi recensori che prestano particolare attenzione ai "livelli d'amore" che un utente può ottenere per sbloccare conversazioni sessuali sempre più frequenti, insieme ai cambiamenti che accompagnano l'avatar. Dal momento che non ho la volontà di acquistare l'abbonamento SuperGrok a 30$ al mese per accedere alla funzione Companions, non sono stato in grado di verificare in modo indipendente alcune delle affermazioni sul chatbot; Internet, d'altra parte, sembrava d'accordo su una cosa: questo particolare chatbot era eccessivamente audace. Rudi, per quanto discutibile sembri, ha attirato molto meno controversia. Il cartone animato Red Panda tende ad insultare insulti e scherzi oscuri che molti ritengono ridicoli e ridicoli. Molti recensori tendono a mettere da parte questo personaggio, invece di rifiutarlo come meno importante, per lo più servito nei confronti dei bambini di Gen-Z. Per dire la verità, ho trovato entrambi i personaggi chatbot piuttosto noiosi.Invece, ciò che mi interessava era il processo distinto e la ricezione di questo chatbot romantico altrimenti dodici.Prima di tutto, Companions è, tra i prodotti rilasciati dai "leaders del settore" di AI (ad esempio, OpenAI, DeepMind, Anthropic, Meta), il primo chatbot progettato specificamente per impegnarsi in un gioco di ruolo romantico, nonostante le preoccupazioni etiche comuni da affermare effetti psicologici a lungo termine a sfruttare la demografia vulnerabile. La distinta scarsità della regolamentazione che circonda chatbots come questi mi ha subito evidenziato, oltre al fatto che, oltre a rispondere a poche voci dissidenti, xAI è stato in grado di rilasciare il prodotto con impunità. Le nuove tecnologie dovrebbero essere attentamente osservate per salvaguardare gli utenti, o dare la facoltà di crescere e essere sviluppati? Responsabilità e innovazione Come con tutte le tecnologie emergenti, gli effetti psicologici dell'uso di chatbot AI sugli esseri umani non sono né scientificamente provati né empiricamente evidenti. una correlazione negativa tra il benessere e l'uso di chatbot. trovati trovati Nonostante ciò, queste tecnologie relativamente sconosciute sono ancora ben nel processo di invadere i media mainstream. Nel considerare se queste tecnologie sono davvero dannose o meno, i commentatori tecnologici e i responsabili politici ignorano il punto cruciale che una tale considerazione dovrebbe, idealmente, non essere mai una preoccupazione necessaria in primo luogo all'interno delle tecnologie commerciali. Un fallimento catastrofico. Potrebbe Allo stesso modo, i partecipanti agli studi clinici non si accontenterebbero di sapere che numerosi animali non li avevano preceduti nel processo di test. Uno dei principi chiave dell'ingegneria è che indipendentemente da tutto, la sicurezza viene sempre prima. Per avere un'idea dei potenziali pericoli di questi chatbots, in ogni caso, abbiamo solo bisogno di guardare gli esempi di due adolescenti i cui suicidi sono stati collegati all'IA essere complice nella loro idea suicida. Molti sostenitori dell’attuale dottrina “sviluppare ora, risolvere più tardi” sottolineano l’ovvio: siamo bloccati in una corsa all’innovazione con la Cina. In realtà, chiusi in una “corrida alle armi” di AI, i prodotti del nostro tempo saranno probabilmente adattati all’arsenale della cyber-warfare, tra molte altre cose.Nonostante questo, sostengo che la necessità di innovazione non è un caso per trascurare la sicurezza – non possiamo mai presumere che il rapido progresso tecnologico sia reciprocamente esclusivo della sicurezza dei consumatori. sono , 
 
 “La sicurezza e il miglioramento del prodotto si verificano a causa delle carenze e delle lacune trovate all’interno di un’ampia distribuzione”. “La sicurezza e il miglioramento del prodotto si verificano a causa delle carenze e delle lacune trovate all’interno di un’ampia distribuzione”. Mentre questi test sono stati indubbiamente condotti (in particolare, OpenAI rilascia nuovi modelli agli utenti Pro prima di altri tipi di utenti), non è esagerato dire che la distribuzione di massa di molti chatbots disponibili in commercio è condotta in modo tale da trascurare la sicurezza degli utenti, con molti modelli ChatGPT. Anche se la distribuzione commerciale fosse necessaria per trovare molti di questi problemi, sarebbe molto più ragionevole se fossero prese adeguate misure di salvaguardia per garantire la sicurezza dei gruppi di utenti vulnerabili, che attualmente non è il caso. fallimento fallimento 
 
 “La consueta diffusione diffusa di nuovi modelli porta a transcrizioni di chat che accelerano notevolmente la formazione di nuovi modelli, a differenza dei prodotti tradizionali e non AI, nessuno dei quali beneficia proporzionalmente da un maggior pool di feedback degli utenti”. “La consueta diffusione diffusa di nuovi modelli porta a transcrizioni di chat che accelerano notevolmente la formazione di nuovi modelli, a differenza dei prodotti tradizionali e non AI, nessuno dei quali beneficia proporzionalmente da un maggior pool di feedback degli utenti”. Le trascrizioni di chat di solito non vengono elaborate verbatim come parte dei processi RLHF utilizzati da aziende come OpenAI e Google. Mentre possono in realtà informare il modello di sicurezza e coinvolgimento dei chatbots corrispondenti, i separati pipeline dati, per lo più di alta qualità, dati tecnici creati o verificati dall'uomo, influenzano gli aspetti della formazione AI più pertinenti per sviluppare le prestazioni di ragionamento e altri tipi di conoscenze specialistiche (ad esempio, codifica, risoluzione matematica, ecc.). Speriamo di aver dimostrato che la necessità di innovazione non è la causa principale di queste carenze di sicurezza – piuttosto, la mancanza concertata di sforzi sui protocolli di sicurezza e test è. Il ruolo della regolamentazione La soluzione ovvia alla soprannominata mancanza di standard di sicurezza è semplicemente aumentare la regolamentazione governativa della pratica di addestramento e distribuzione dei chatbots. Ciò che non è ovvio, tuttavia, è come questa proposta altamente ambigua sarebbe stata fatta in pratica. All'inizio del XX secolo, gli Stati Uniti hanno imparato attraverso la Proibizione l'importante lezione che i rigidi divieti a tutto tondo su un prodotto dannoso non funzionano. Invece, vietare l'alcol senza togliere la sostanza della sua desiderabilità ha semplicemente portato a una febbre del mercato nero, aumentando invece di diminuire il consumo totale di alcol. Alla fine del XX secolo, per combattere il consumo di massa di sigarette, il governo degli Stati Uniti ha adottato un approccio diverso: invece di vietare apertamente l'uso delle sigarette, hanno ridotto la desiderabilità sociale dei prodotti del tabacco attraverso la pubblicazione di rapporti ampiamente diffusi che dettagliano come potrebbero causare il cancro della pelle, obbligando le aziende di sigarette a inserire disclaimer visibili su ogni prodotto e limitando la diffusione delle pubblicità sulle sigarette. Il consumo di sigarette è passato da un picco storico di quasi 4.000 a circa 800 sigarette pro capite all’anno. declino declino Per togliere dalla storia, il controllo del governo sui chatbots non sicuri dovrebbe andare al di là delle barriere legali del consumo e dello sviluppo. Dovrebbero anche cercare di ridurre la percepita tollerabilità sociale del consumo di questi prodotti, sia attraverso campagne o ricerche pubbliche. Nonostante questo, non è ancora chiaro in che misura il governo può effettivamente influenzare i cambiamenti sociali più ampi, con l'attuale opinione pubblica indirizzata verso le tendenze dei social media virali in misura maggiore che verso i cambiamenti politico-economici. Scritto da Thomas Yin

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Questo audio è prodotto nella lingua originale della storia!

La dottrina dell'innovazione contro la sicurezza nella regolamentazione dell'IA

About Author

COMMENTI

CARTELLINI

QUESTO ARTICOLO È STATO PRESENTATO IN

Related Stories

Meet Dealscard, Winner of Startups of The Year 2024 in Ghaziabad/Deal Aggregator

OpenAI Has Everything Under Control 😎

How to Mint Your Name.HackerNoon Web3 Identity Namespace

Netflix Brings Out the Big Guns

Meet Dealscard, Winner of Startups of The Year 2024 in Ghaziabad/Deal Aggregator

OpenAI Has Everything Under Control 😎

How to Mint Your Name.HackerNoon Web3 Identity Namespace

Netflix Brings Out the Big Guns

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps