TLDR; Dieser Artikel erforscht das überraschende kreative Potenzial von KI-Halluzinationen in generativen AI-Modellen wie DALL·E. Während sie typischerweise als Fehler im Deep Learning angesehen werden, können diese "Fehler" unerwartete künstlerische Brillanz hervorrufen. Die Halluzinationen Generative AI Modelle tiefes Lernen künstliche Intelligenz What Does It Mean for AI to “Hallucinate”? Was bedeutet es für AI, „Halluzinieren“ zu machen? Der Begriff Nach dem Oxford Advanced Learner's Dictionary ist eine Halluzination: Halluzinationen 
 
 "Die Tatsache, zu sehen oder zu hören, jemand / etwas, das nicht wirklich da ist, vor allem wegen Krankheit oder Drogen." "Die Tatsache, zu sehen oder zu hören, jemand / etwas, das nicht wirklich da ist, vor allem wegen Krankheit oder Drogen." Mit anderen Worten, Halluzinationen sind typischerweise mit falschen Wahrnehmungen verbunden - etwas zu befürchten oder zu fixieren. Wenn ein LLM (Large Language Model) wie ChatGPT oder generatives AI-Modell wie DALL-E gesagt wird, dass es "halluziniert", bedeutet es, dass es produziert hat Die Konsequenzen sind ernst: Es deutet darauf hin, dass wir dem Modell niemals vollständig vertrauen können.Die potenziellen Risiken? irreführende Fakten, gefährliche Ratschläge oder gebrochene Software. falsche oder irreführende Informationen falsche oder irreführende Informationen When Hallucination Goes Too Far Wenn Halluzinationen zu weit gehen Beginnen wir mit der dunklen Seite. Stellen Sie sich vor, Sie planen einen romantischen Abend in einer Stadt, die Sie noch nie besucht haben. Sie bitten ChatGPT, ein Restaurant zu empfehlen und aus einer vielversprechenden Liste von Orten zu wählen. Aber wenn Sie ankommen - alle gekleidet - Sie entdecken, dass das Restaurant nicht an der angegebenen Stelle existiert. Verrückt?Natürlich, aber es ist ein relativ harmloses Beispiel. Betrachten Sie jetzt schädliche Szenarien: 
 
 
 
 
 Medizinische Fehlinformationen führen zu falschen Diagnosen und Behandlungen. Historische Ungenauigkeiten, die einen Schüler ihren Abschluss kosten. Fehler, die ganze Systeme zerstören. Autonomes Fahren aufgrund fehlerhafter Interpretationen. KI-Halluzinationen sind nicht nur fiktive Nebenwirkungen; sie können . real-world consequences The Pentagon That Wasn’t Das Pentagon, das nicht Vor zwei Jahren veröffentlichte ein verifizierter Twitter-Account (jetzt X) ein Das Foto zeigte eine schwankende Wolke von Rauch neben einem Gebäude in Form von Der Tweet wurde viral und löste eine schnelle Marktreaktion aus - der Dow Jones fiel in nur vier Minuten um 85 Punkte. Bild einer Explosion Das Pentagon Hier ist der Pickel - das Bild war gefälscht. Hier ist der Pickel - das Bild war gefälscht. Das Bild wurde wahrscheinlich von AI generiert, und die Explosion geschah nie. . the financial damage had already been done Es ist unklar, ob es sich um einen menschlich angeordneten Anruf handelte, der dieses Bild oder eine Halluzination eines Modells geschaffen hat, aber in jeder Hinsicht war das Ergebnis dasselbe. When Bots Make Up Policy Wenn Bots Politik machen In jüngerer Zeit, Entsetzen folgte - Benutzer beschwert, einige sogar ihre Abonnements storniert. Cursors AI-Support-Bot informierte Benutzer, dass das Tool nicht mehr auf mehr als einem Computer verwendet werden konnte Es gab nur ein Problem: . it wasn’t true Cursors CEO erklärte später: „Wir haben keine solche Politik. Sie sind natürlich frei, Cursor auf mehreren Maschinen zu verwenden.“ Wer war verantwortlich, fragen Sie? „Leider ist dies eine falsche Antwort von einem Front-Line-AI-Support-Bot.“ Der CEO stellte fest. Grundsätzlich hatte AI eine Politik aus der Luft erfunden. The Courtroom Catastrophe Der Gerichtssaal Katastrophe Vielleicht das bekannteste Beispiel: t Das zitierte Modell Die Anwälte stellten sie unwissend einem Bundesrichter vor. Das Ergebnis: Sanktionen, Bußgelder und öffentliche Beschämung. wo Anwälte ChatGPT benutzten, um einen rechtlichen Brief zu erstellen completely fabricated legal cases Der Richter erklärte, sie hätten "ihre Verantwortlichkeiten aufgegeben" und setzten sich auch nach der Befragung weiterhin an die falschen Zitate. Can a Hallucination Be… Good? Kann eine Halluzination ... gut sein? Diese Beispiele bestätigen eine Schlussfolgerung: Jede Ausgabe muss doppelt geprüft werden, egal wie überzeugend und zuversichtlich sie klingen mag. AI cannot be trusted blindly Aber kann man den Menschen voll und ganz trauen? Aber kann man den Menschen voll und ganz trauen? Und was, wenn wir die Halluzinationen aus einem anderen Blickwinkel betrachten? Einer der visionärsten Köpfe in der Tech-Geschichte - jemand, der buchstäblich half, die Welt zu gestalten, in der wir leben - war auch dafür bekannt, Halluzinationen zu umarmen. Steve Jobs, der ikonische Mitbegründer von Apple, schrieb offen psychedelische Drogen wie LSD für die Erweiterung seines kreativen Denkens. Jobs wurde nicht von der Konvention angetrieben - er wurde von der Phantasie angetrieben. Liebe ihn oder hasse ihn, niemand kann den Umfang seines Einflusses leugnen. Er baute nicht nur Produkte; er gebog die Realität, um seiner Vision zu entsprechen. Und wenn veränderte Wahrnehmung eine Rolle in diesem Prozess spielte, sollten wir nicht überdenken, was wir meinen, wenn wir sagen, dass eine Idee - oder ein Bild - "halluziniert" ist? Jobs, LSD, and Creativity Jobs, LSD und Kreativität Steve Jobs bezeichnete seine kreativen Durchbrüche offen als psychedelische Erfahrungen. Und er sagt: Steve Jobs 
 
 LSD zeigt dir, dass es eine andere Seite der Münze gibt, und du kannst dich nicht daran erinnern, wenn sie abläuft, aber du weißt es. LSD zeigt dir, dass es eine andere Seite der Münze gibt, und du kannst dich nicht daran erinnern, wenn sie abläuft, aber du weißt es. Wenn eine Halluzination einem Menschen helfen kann, die Welt anders zu sehen, könnte eine KI-Halluzination demselben Zweck dienen? When Hallucination Becomes a Creative Compass Wenn Halluzinationen zu einem kreativen Kompass werden Könnte eine Halluzination, wenn sie in den richtigen Kontext gesetzt wird, mehr als nur ein Defekt sein? In Bereichen, in denen Präzision sekundär zu Vision ist, wie Kunst, Geschichtenerzählen oder Design, sehen wir vielleicht nicht einen Bug, sondern eine unerwartete Funktion. Imagination , Ich untersuchte, wie DALL-E so - sogenannte Halluzinationen rohe Kinderskizzen in lebendige, vollwertige Illustrationen verwandelten. In meinem vorherigen Artikel Aber können wir noch weiter gehen? Aber können wir noch weiter gehen? Als Künstler kenne ich das Gewicht eines kreativen Blocks. Es schleicht sich leise auf, bleibt dann länger als es sollte. Je mehr du versuchst, Originalität zu zwingen, desto mehr schleifen deine Ideen in die gleichen vertrauten Muster zurück - sicher, vorhersehbar und uninspiriert. Was ist, wenn generative KI nicht nur ein Werkzeug ist, sondern eine Art von Nicht, um die menschliche Phantasie zu ersetzen, sondern um sie los zu schütteln. Um Wege vorzuschlagen, die wir niemals allein gehen würden. Vielleicht finden wir im Raum zwischen Präzision und Fehler etwas Besseres: Kreative Medizin surprise. Logic Is Your Enemy Logik ist dein Feind Unsere Köpfe sind für . Wenn wir ein Schloss sehen, stellen wir uns eine Prinzessin vor. Ein Hund? Wahrscheinlich auf der Jagd nach einem Ball. Ein Kleinkind? Kohärenz Diese automatische Mustererkennung ist unglaublich hilfreich für das tägliche Leben - sie hilft uns, die Welt schnell und effizient zu navigieren. in unseren Gehirnen. Boxen, die Unser kreatives Potenzial. boxes limit The Categorisation Trap: Your Brain Loves a Story Die Kategorisierungsfalle: Ihr Gehirn liebt eine Geschichte Schauen wir uns die folgenden Karten an: Stellen Sie sich jetzt vor, ich habe Sie gebeten, sie in 3 gleiche Kategorien zu gruppieren.Die meisten Köpfe würden dies sofort sehen: 
 
 
 
 Ein Nachthimmel mit Mond, Wolke und einem Stern Eine Teeparty-Szene mit einem Tisch, einem Stück Kuchen und vielleicht einem Teebaum Ein Wald mit einem Fuchs, einem Baum und einem Pilz Sie könnten Variation hinzufügen - vielleicht schnappt Ihre Fuchs den Pilz, oder vielleicht, wenn Sie kreativer sind als die durchschnittliche Person, sitzt sie neben einem Lagerfeuer und grilliert es auf einem Stab. Kontext schließt uns in einen Rahmen. we still stick to the script Und wenn alle aus dem gleichen Rahmen arbeiten ... die Einzigartigkeit stirbt ein wenig. Breaking the Context (on purpose) Zusammenbruch des Kontextes (auf Absicht) Jetzt brechen wir es ab. Lasst uns das Erwartete überwältigen und unsere logischen Instinkte aus dem Fenster werfen. Stellen Sie stattdessen diese Gruppe vor: Lassen Sie uns Logik zugunsten unbegrenzter Kreativität herausfordern. 
 
 
 
 
 
 A moon 
 
 A fox 
 
 A table Ja, dein Gehirn hat gerade gestoppt, nicht wahr? Oder wenn du es tust, fühlte es sich auseinander, absurd, sogar unangenehm an. Aber erraten Sie, was nicht kämpft? Generative AI natürlich. Lassen Sie uns stattdessen die folgende Gruppierung vorstellen: Genießen Sie jetzt die grenzenlose Phantasie von DALL-E 3. Starts Celebrating Birthday with a Mushroom Cake Geburtstag feiern mit einem Pilzkuchen Tree Drinking Tea inside a Cloud Baum trinkt Tee in einer Wolke Fox and Moon Tea Party Fox und Moon Tea Party Free from Human Logic Frei von der menschlichen Logik DALL-E war in der Lage, einfach Konzepte zu mischen, die nie in der realen Welt zusammentreten (Halluzinationen). Warum gibt es so einen Unterschied zwischen unserem Verstand und seinem Denken? Menschen neigen zu Vernunft basierend auf Wenn wir uns bitten, uns eine Szene mit einem Mond, einem Fuchs und einem Tisch vorzustellen, versucht unser Gehirn instinktiv, Unser Geist sucht nach Logik, Kontext oder Metapher, und wenn wir keine finden können, stehen wir oft fest oder geben auf. Aber nicht zufällig. meaning, coherence, and lived experience make sense of the combination optimised for relevance DALL-E hingegen stützt sich nicht auf persönliches Gedächtnis oder lineare Logik. Und sie zu exponieren Viele von ihnen sind ungewöhnlich oder sogar surrealistisch.So wenn Sie es mit unabhängigen Elementen wie einem Mond, einem Fuchs und einem Tisch auffordern, zögert es nicht oder fragt, ob die Verbindung "sinnvoll" ist. Wie diese Objekte entstanden sind Auch wenn es indirekt ist. billions of images and captions countless visual combinations - statistical patterns together, near each other, or in similar visual contexts Mit anderen Worten: 
 
 
 Der Mensch braucht Kohärenz. DALL-E braucht nur Korrelation. Und darin liegt ihre Macht: indem sie frei von dem menschlichen Bedürfnis nach Logik oder innerer Konsistenz ist, kann DALL-E Alles ohne zweite Vermutung. confidently generate the absurd, the poetic, or the beautifully strange - A Human’s Muse Eine menschliche Muse Wir haben gelernt, uns vor Halluzinationen zu fürchten - das ist in vielen Bereichen richtig.In Medizin, Recht, Geschichte und sicherheitskritischen Systemen muss KI auf einen höheren Wahrheitsstandard gehalten werden.Aber in Kunst, Design und Fantasie? Der eigentliche „Fehler“, der die KI als faktische Quelle unzuverlässig macht, könnte das sein, was sie so mächtig macht. Halluzination, in den rechten Händen, wird etwas ganz anderes: . creative companion a spark Wenn DALL-E einen Fuchs, einen Mond und einen Tisch "missverstanden" hat, scheitert es nicht - es Es lädt uns ein, unseren Griff an der Logik zu lösen, um zu sehen, was passiert, wenn wir die Erzählung loslassen und die Möglichkeit umarmen. dares Dieses Phänomen kann die Blockade eines Künstlers heilen, indem es unserem Geist hilft, den Kontext und die Logik zu lösen, es kann Kreativität anregen und Ideen hervorrufen, die außerhalb unseres Umfangs gewesen sein könnten. Vielleicht ist also die wahre Frage nicht "Können wir verhindern, dass KI Halluziniert?" 
 
 Vielleicht ist es: Was können wir bauen, wenn wir es träumen lassen? Vielleicht ist es: What can we build when we let it dream? Über mich Über mich Ich bin Maria Piterberg - eine KI-Experte, die das Runtime-Software-Team bei Habana Labs (Intel) leitet und eine halbprofessionelle Künstlerin, die über traditionelle und digitale Medien arbeitet.

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

Willkommen im Museum der Halluzinationen

About Author

KOMMENTARE

Hängeetiketten

DIESER ARTIKEL WURDE VORGESTELLT IN

Related Stories

HackerNoon Decoded 2024: Celebrating Our AI Community!

HackerNoon Decoded 2024: Celebrating Our Life Hacking Community!

HackerNoon Decoded 2024: Wir feiern die Community unserer Technologieunternehmen!

HackerNoon Decoded 2024: Wir feiern unsere Remote-Work-Community!

HackerNoon Decoded 2024: Celebrating Our AI Community!

HackerNoon Decoded 2024: Celebrating Our Life Hacking Community!

HackerNoon Decoded 2024: Wir feiern die Community unserer Technologieunternehmen!

HackerNoon Decoded 2024: Wir feiern unsere Remote-Work-Community!

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps