TLDR; Questo articolo esplora il sorprendente potenziale creativo delle allucinazioni di intelligenza artificiale nei modelli generativi di intelligenza artificiale come DALL·E. Mentre tipicamente visti come difetti nell'apprendimento profondo, questi "errori" possono produrre brilliance artistica inaspettata. Confrontando l'immaginazione umana con la logica basata su modelli di intelligenza artificiale, il pezzo interroga se i falsi di intelligenza artificiale potrebbero in realtà essere un nuovo tipo di creatività. Le allucinazioni I modelli generativi Apprendimento profondo Intelligenza artificiale What Does It Mean for AI to “Hallucinate”? Che cosa significa per l’AI “allucinare”? Il termine Secondo l’Oxford Advanced Learner’s Dictionary, le allucinazioni sono: allucinazione 
 
 "Il fatto di sembrare di vedere o sentire qualcuno / qualcosa che non è veramente lì, soprattutto a causa di malattia o droghe." "Il fatto di sembrare di vedere o sentire qualcuno / qualcosa che non è veramente lì, soprattutto a causa di malattia o droghe." In altre parole, le allucinazioni sono tipicamente associate a false percezioni - qualcosa da temere o fissare. Nel mondo dell’IA generativa, il significato non è così diverso.Quando un LLM (Large Language Model) come ChatGPT o un modello di AI generativo come DALL-E è detto di “allucinare”, significa che ha prodotto Le implicazioni di questo sono gravi: suggerisce che non possiamo mai fidarci completamente del modello. i potenziali rischi? fatti fuorvianti, consigli pericolosi o software rotto. Informazioni false o fuorvianti Informazioni false o fuorvianti When Hallucination Goes Too Far Quando le allucinazioni vanno troppo lontano Immaginate di pianificare una serata romantica in una città che non avete mai visitato. Chiedete a ChatGPT di raccomandare un ristorante e scegliere tra una lista promettente di luoghi. Ma quando arrivi - tutti vestiti - scopri che il ristorante non esiste nella posizione specificata. Inoltre, non esiste in nessun luogo. Inutile, ma è un esempio relativamente innocuo. Ora consideriamo scenari più dannosi: 
 
 
 
 
 La disinformazione medica porta a diagnosi e trattamenti errati. Le inesattezze storiche che costano uno studente la loro laurea. Errori di codice che crollano intere sistemi. Disfunzioni della guida autonoma a causa di interpretazioni difettose. Le allucinazioni AI non sono solo effetti collaterali fictivi; possono avere . real-world consequences The Pentagon That Wasn’t Il Pentagono che non Due anni fa, un account Twitter verificato (ora X) ha pubblicato un La foto mostrava una nuvola di fumo accanto a un edificio in forma di Il tweet è diventato virale e ha scatenato una rapida reazione del mercato: il Dow Jones è sceso di 85 punti in soli quattro minuti. Immagine di un’esplosione Il Pentagono Ecco il piatto - l'immagine era falsa. Ecco il piatto - l'immagine era falsa. L'immagine è stata probabilmente generata da AI, e l'esplosione non è mai avvenuta. . the financial damage had already been done Non è chiaro se sia stato un prompt ordinato dall'uomo a creare quella immagine o un'allucinazione di un modello, ma in entrambi i modi il risultato è stato lo stesso. When Bots Make Up Policy Quando i bot creano una politica Più di recente, L’indignazione è seguita – gli utenti si sono lamentati, alcuni hanno persino cancellato le loro sottoscrizioni. Il bot di supporto AI di Cursor ha informato gli utenti che lo strumento non poteva più essere utilizzato su più di una macchina C’era solo un problema: . it wasn’t true Il CEO di Cursor ha poi chiarito: “Non abbiamo una tale politica. Naturalmente sei libero di utilizzare Cursor su più macchine.” Chi era responsabile, chiedi? “Sfortunatamente, questa è una risposta errata da un bot di supporto AI di prima linea.” ha dichiarato il CEO. Quindi, fondamentalmente, l'IA aveva inventato una politica fuori dall'aria. The Courtroom Catastrophe Il disastro del tribunale Forse l’esempio più noto: t Il modello citato Gli avvocati, senza saperlo, li hanno sottoposti a un giudice federale.Il risultato? sanzioni, ammende e imbarazzo pubblico. dove gli avvocati hanno usato ChatGPT per aiutare a redigere un brief legale completely fabricated legal cases Il giudice ha dichiarato di aver “abbandonato le loro responsabilità” e di aver continuato a sostenere le false citazioni anche dopo essere stati interrogati. Can a Hallucination Be… Good? Le allucinazioni possono essere... buone? Questi esempi confermano una conclusione: Ogni uscita deve essere controllata in doppio, non importa quanto possa sembrare convincente e sicuro. AI cannot be trusted blindly Ma è possibile fidarsi completamente dell’uomo? Ma è possibile fidarsi completamente dell’uomo? E se guardiamo le allucinazioni da un altro angolo? Una delle menti più visionarie della storia della tecnologia - qualcuno che letteralmente ha contribuito a plasmare il mondo in cui viviamo - era anche conosciuta per abbracciare le allucinazioni. Steve Jobs, il co-fondatore iconico di Apple, ha apertamente accreditato farmaci psicodelici come LSD per espandere il suo pensiero creativo. Jobs non era guidato dalla convenzione - era guidato dall'immaginazione. Lo ama o lo odia, nessuno può negare l'ampiezza del suo impatto. Non ha semplicemente costruito prodotti; ha piegato la realtà per corrispondere alla sua visione. E se la percezione alterata ha giocato un ruolo in quel processo, non dovremmo riconsiderare ciò che intendiamo quando diciamo che un'idea - o un'immagine - è "allucinata"? Jobs, LSD, and Creativity Lavori, LSD e creatività Steve Jobs ha credito apertamente i suoi progressi creativi alle esperienze psicedeliche. E lui dice: di Steve Jobs 
 
 “L’assunzione di LSD è stata un’esperienza profonda, una delle cose più importanti della mia vita. LSD ti mostra che c’è un’altra faccia della moneta, e non ti ricordi quando si spoglia, ma lo sai. “L’assunzione di LSD è stata un’esperienza profonda, una delle cose più importanti della mia vita. LSD ti mostra che c’è un’altra faccia della moneta, e non ti ricordi quando si spoglia, ma lo sai. Se un'allucinazione può aiutare un essere umano a vedere il mondo in modo diverso, un'allucinazione AI potrebbe servire allo stesso scopo? When Hallucination Becomes a Creative Compass Quando l’allucinazione diventa una bussola creativa Può l’allucinazione, quando messa nel contesto giusto, essere più di un difetto? Nelle aree in cui la precisione è secondaria alla visione, come l’arte, la narrazione o il design, forse non stiamo guardando a un bug, ma a una caratteristica inaspettata. Immaginazione Ho esplorato come le cosiddette allucinazioni di DALL-E trasformassero gli schizzi crudi dei bambini in illustrazioni vibranti e piene.L'IA riempì i vuoti non con i fatti, ma con il fascino - interpretando piuttosto che replicando. Nel mio precedente articolo Ma possiamo andare oltre? Ma possiamo andare oltre? Come artista, conosco il peso di un blocco creativo. Si scivola in silenzio, poi rimane più a lungo di quanto dovrebbe. Più cerchi di forzare l'originalità, più le tue idee si ritrovano negli stessi modelli familiari - sicuri, prevedibili e non ispirati. Scorri Pinterest per ore, alla ricerca di una scintilla, ma la tua mente continua a circolare di nuovo verso cose che è già stata vista. E se l’intelligenza artificiale generativa non fosse solo uno strumento, ma una Non per sostituire l’immaginazione umana, ma per scuoterla.Per suggerire sentieri non cammineremmo mai da soli.Forse, nello spazio tra precisione ed errore, troviamo qualcosa di meglio: La medicina creativa surprise. Logic Is Your Enemy La logica è il tuo nemico Le nostre menti sono fatte per . Quando vediamo un castello, immaginamo una principessa. un cane? probabilmente inseguendo una palla. un bambino? abbracciando un orso teddy. coerenza Questo riconoscimento automatico dei modelli è incredibilmente utile per la vita quotidiana - ci aiuta a navigare nel mondo in modo rapido ed efficiente. nei nostri cervelli. scatole che Il nostro potenziale creativo. boxes limit The Categorisation Trap: Your Brain Loves a Story La trappola della categorizzazione: il tuo cervello ama una storia Diamo un'occhiata alle seguenti carte: Ora immaginate che vi ho chiesto di raggrupparli in 3 categorie uguali.La maggior parte delle menti vedrebbe immediatamente questo: 
 
 
 
 Un cielo notturno con la luna, una nuvola e una stella Una scena della festa del tè con un tavolo, una fetta di torta e forse un vaso di tè Una foresta con una volpe, un albero e un fungo Potresti aggiungere variazione - forse la tua volpe sta sniffando il fungo, o forse se sei più creativo della persona media, sta seduto accanto a un fuoco di campeggio, grigliandolo su un bastone. Il contesto ci chiude in un quadro. we still stick to the script E quando tutti lavorano nello stesso quadro... l’unicità muore un po’. Breaking the Context (on purpose) Rimuovere il contesto (a proposito) Ora lo rompiamo. Cerchiamo di sbarazzarci delle aspettative e buttiamo fuori dalla finestra i nostri istinti logici. Immagini di questo gruppo invece: Sfidiamo la logica a favore della creatività illimitata. 
 
 
 
 
 
 A moon 
 
 A fox 
 
 A table Il tuo cervello sta staccando, non è vero? Probabilmente non avresti potuto creare una visione.O se lo avessi fatto, si sentiva disconnesso, assurdo, persino scomodo. Ma indovinate cosa non lotta? generativa AI ovviamente. Presentare invece il seguente gruppo: E ora, godetevi l’immaginazione illimitata di DALL-E 3. Starts Celebrating Birthday with a Mushroom Cake Inizia a festeggiare il compleanno con una torta di funghi Tree Drinking Tea inside a Cloud Un albero beve il tè all'interno di una nuvola Fox and Moon Tea Party Fox e Moon Tea Party Free from Human Logic Libero dalla logica umana DALL-E era in grado di mescolare facilmente concetti che non si verificano mai nel mondo reale (allucinazioni). Perché c’è una tale differenza tra la nostra mente e il suo pensiero? Gli esseri umani tendono a ragionare sulla base di Quando viene chiesto di immaginare una scena che coinvolge una luna, una volpe e un tavolo, il nostro cervello tenta istintivamente di La nostra mente cerca logica, contesto o metafora, e quando non riusciamo a trovarne uno, spesso ci fermiamo o ci arrendiamo. Non la casualità. meaning, coherence, and lived experience make sense of the combination optimised for relevance DALL-E, d'altra parte, non si basa sulla memoria personale o sulla logica lineare. esponendolo a Molti di loro sono insoliti o persino surreali.Quindi, quando lo prometti con elementi non correlati come una luna, una volpe e un tavolo, non esita o mette in discussione se la connessione "ha senso". Come sono apparsi questi oggetti Anche se indirettamente. billions of images and captions countless visual combinations - statistical patterns together, near each other, or in similar visual contexts In altre parole: 
 
 
 L’uomo ha bisogno di coerenza. Dall-E ha solo bisogno di correlazione. E qui sta il suo potere: essendo libero dal bisogno umano di logica o di coerenza interna, DALL-E può Tutto senza indovinare se stesso. confidently generate the absurd, the poetic, or the beautifully strange - A Human’s Muse La musa umana Siamo stati insegnati a temere le allucinazioni - giustamente in molti settori.In medicina, legge, storia e sistemi critici per la sicurezza, l'IA deve essere tenuta a un livello più alto di verità.Ma nell'arte, nel design e nell'immaginazione? Il “fatto negativo” che rende l’intelligenza artificiale inaffidabile come fonte di fatti potrebbe essere ciò che la rende così potente come Le allucinazioni, nelle mani destre, diventano qualcosa di completamente diverso: . creative companion a spark Quando DALL-E "comprende male" una volpe, una luna e un tavolo, non fallisce - è Ci invita a liberare la nostra presa sulla logica, a vedere cosa succede quando lasciamo andare la narrazione e abbracciamo la possibilità. dares Questo fenomeno può curare il blocco di un artista aiutando la nostra mente a rilassare il contesto e la logica, può stimolare la creatività e scatenare idee che potrebbero essere state al di là del nostro controllo. Quindi forse la vera domanda non è "Possiamo fermare l'IA dall'allucinare?" 
 
 Forse è: cosa possiamo costruire quando lo lasciamo sognare? Forse è: cosa possiamo costruire quando lo lasciamo sognare? di me di me Sono Maria Piterberg - un esperto di intelligenza artificiale che guida il team di software Runtime presso Habana Labs (Intel) e un artista semiprofessionale che lavora su mezzi tradizionali e digitali. Sono specializzata in sistemi di formazione AI su larga scala, tra cui biblioteche di comunicazione (HCCL) e ottimizzazione del tempo di esecuzione.

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

Read My Stories

Questo audio è prodotto nella lingua originale della storia!

Troppo lungo; Leggere

Boost your HackerNoon story @ $159.99! 🚀

Benvenuti al Museo delle Allucinazioni

About Author

COMMENTI

CARTELLINI

QUESTO ARTICOLO È STATO PRESENTATO IN

Related Stories

Coding with Latenode's AI + JavaScript Assistant: A Low-Code Platform for Simplified Development

Meet the HackerNoon Top Writers: Nebojsa Nesha Todorovic - Upwork, Freelancing, and Future of Work

Link-To-Earn Incentive Model: A Blueprint For Mass Adoption?

The Ultimate FAQ Guide to HackerNoon's Business Blogging

Coding with Latenode's AI + JavaScript Assistant: A Low-Code Platform for Simplified Development

Meet the HackerNoon Top Writers: Nebojsa Nesha Todorovic - Upwork, Freelancing, and Future of Work

Link-To-Earn Incentive Model: A Blueprint For Mass Adoption?

The Ultimate FAQ Guide to HackerNoon's Business Blogging

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps