TLDR; Cet article explore le potentiel créatif surprenant des hallucinations d’IA dans des modèles d’IA génératifs tels que DALL·E. Bien que généralement considérés comme des défauts dans l’apprentissage profond, ces « erreurs » peuvent produire une brillance artistique inattendue.En comparant l’imagination humaine à la logique basée sur les modèles de l’IA, la pièce se demande si les erreurs de l’IA pourraient en fait être un nouveau type de créativité. Les hallucinations Les modèles génératifs Apprentissage profond Intelligence artificielle What Does It Mean for AI to “Hallucinate”? Que signifie « halluciner » ? Le terme Selon le dictionnaire Oxford Advanced Learner, une hallucination est : hallucination 
 
 "Le fait de paraître voir ou entendre quelqu'un / quelque chose qui n'est pas vraiment là, surtout en raison de la maladie ou de la drogue." "Le fait de paraître voir ou entendre quelqu'un / quelque chose qui n'est pas vraiment là, surtout en raison de la maladie ou de la drogue." En d'autres termes, les hallucinations sont généralement associées à de fausses perceptions - quelque chose à craindre ou à fixer. Dans le monde de l’IA générative, la signification n’est pas si différente.Quand un LLM (Large Language Model) comme ChatGPT ou un modèle d’IA générative comme DALL-E est dit « halluciner », cela signifie qu’il a produit Les implications de ceci sont sérieuses : il suggère que nous ne pouvons jamais faire pleinement confiance au modèle. les risques potentiels? faits trompeurs, conseils dangereux ou logiciels cassés. Informations fausses ou trompeuses Informations fausses ou trompeuses When Hallucination Goes Too Far Quand les hallucinations vont trop loin Commençons par le côté sombre. Imaginez que vous planifiez une soirée romantique dans une ville que vous n'avez jamais visitée. Vous demandez à ChatGPT de recommander un restaurant et de choisir parmi une liste prometteuse de lieux. Mais quand vous arrivez - tous habillés - vous découvrez que le restaurant n'existe pas dans l'emplacement spécifié. En outre, il n'existe pas dans n'importe quel endroit. En fait, il n'a jamais existé. Certes, mais c’est un exemple relativement inoffensif. Maintenant, considérez les scénarios plus dommageables: 
 
 
 
 
 La désinformation médicale conduit à des diagnostics et des traitements incorrects. Des inexactitudes historiques qui ont coûté à un étudiant leur grade. Des erreurs de code qui écrasent des systèmes entiers. Désordres de conduite autonome dus à des interprétations erronées. Les hallucinations d'IA ne sont pas seulement des effets secondaires fictifs; ils peuvent avoir . real-world consequences The Pentagon That Wasn’t Le Pentagone qui n'a pas Il y a deux ans, un compte Twitter vérifié (maintenant X) a posté un La photo a montré un nuage de fumée à côté d'un bâtiment en forme de Le tweet est devenu viral et a déclenché une réaction rapide du marché - le Dow Jones a chuté de 85 points en seulement quatre minutes. Image d'une explosion Le Pentagone Et voilà, la photo est fausse, la photo est fausse. Et voilà, la photo est fausse, la photo est fausse. L'image a probablement été générée par l'IA, et l'explosion n'a jamais eu lieu. . the financial damage had already been done Il n’est pas clair s’il s’agissait d’un signal d’ordre humain qui a créé cette image ou d’une hallucination d’un modèle, mais de toute façon le résultat était le même. When Bots Make Up Policy Quand les robots font la politique Plus récemment, Outrage suivi - les utilisateurs se sont plaints, certains ont même annulé leurs abonnements. Le bot de support d’IA de Cursor a informé les utilisateurs que l’outil ne pouvait plus être utilisé sur plus d’une machine Il n'y avait qu'un seul problème : . it wasn’t true Le PDG de Cursor a ensuite clarifié : « Nous n’avons pas de telle politique. vous êtes bien sûr libre d’utiliser Cursor sur plusieurs machines. » Qui était responsable, vous demandez ? « Malheureusement, c’est une réponse incorrecte d’un bot d’assistance d’IA de première ligne. » a déclaré le PDG. Donc, fondamentalement, l’IA avait inventé une politique hors de l’air. The Courtroom Catastrophe La catastrophe de la Cour Peut-être le plus célèbre exemple : t Le modèle cité Les avocats, sans le savoir, les ont soumis à un juge fédéral.Le résultat? sanctions, amendes et honte publique. où les avocats ont utilisé ChatGPT pour aider à rédiger un brief juridique completely fabricated legal cases Le juge a déclaré qu'ils avaient "abandonné leurs responsabilités" et ont continué à se tenir aux fausses citations même après avoir été interrogés. Can a Hallucination Be… Good? Une hallucination peut-elle être... bonne ? Ces exemples confirment une conclusion : Chaque sortie doit être vérifiée en double, peu importe à quel point elle peut paraître convaincante et confiante. AI cannot be trusted blindly Peut-on faire confiance aux humains complètement ? Peut-on faire confiance aux humains complètement ? Et si on regardait les hallucinations sous un autre angle ? L'un des esprits les plus visionnaires de l'histoire de la technologie - quelqu'un qui a littéralement aidé à façonner le monde dans lequel nous vivons - était également connu pour avoir embrassé des hallucinations. Steve Jobs, le cofondateur emblématique d’Apple, a ouvertement crédité les drogues psychédéliques comme le LSD pour l’expansion de sa pensée créative. Jobs n'était pas conduit par la convention - il était conduit par l'imagination. L'aimer ou le haïr, personne ne peut nier l'ampleur de son impact. Il n'a pas simplement construit des produits; il a courbé la réalité pour correspondre à sa vision. Et si la perception altérée a joué un rôle dans ce processus, ne devrions-nous pas reconsidérer ce que nous entendons quand nous disons qu'une idée - ou une image - est "hallucinée"? Jobs, LSD, and Creativity Emploi, LSD et créativité Steve Jobs a crédité ouvertement ses percées créatives à des expériences psychédéliques. dans la biographie de Walter Isaacson Il dit : par Steve Jobs 
 
 « Prendre du LSD a été une expérience profonde, l’une des choses les plus importantes de ma vie. Le LSD vous montre qu’il y a un autre côté de la médaille, et vous ne pouvez pas vous en souvenir quand elle s’épuise, mais vous le savez. « Prendre du LSD a été une expérience profonde, l’une des choses les plus importantes de ma vie. Le LSD vous montre qu’il y a un autre côté de la médaille, et vous ne pouvez pas vous en souvenir quand elle s’épuise, mais vous le savez. (p. 37 Chapitre : « La Défaite ») Si une hallucination peut aider un humain à voir le monde différemment, une hallucination d’IA pourrait-elle servir le même but? When Hallucination Becomes a Creative Compass Quand les hallucinations deviennent une boussole créative L’hallucination, lorsqu’elle est placée dans le bon contexte, pourrait-elle être plus qu’un simple défaut ? Dans les domaines où la précision est secondaire à la vision, comme l’art, le récit ou le design, nous ne regardons peut-être pas un bug, mais une caractéristique inattendue. Imaginaire J’ai exploré comment les hallucinations de DALL-E ont transformé les dessins d’enfants en des illustrations vives et complètes.L’IA a rempli les vides non pas avec des faits, mais avec du talent – interprétant plutôt que reproduisant. Dans mon précédent article Mais pouvons-nous aller plus loin ? Mais pouvons-nous aller plus loin ? En tant qu'artiste, je connais le poids d'un bloc créatif. Il s'enfonce tranquillement, puis reste plus longtemps que ce qu'il devrait être. Plus vous essayez de forcer l'originalité, plus vos idées se retournent dans les mêmes schémas familiers - sûrs, prévisibles et sans inspiration. Vous parcourez Pinterest pendant des heures, à la recherche d'une étincelle, mais votre esprit continue de tourner vers des choses qu'il a déjà vues. Et si l’IA générative n’était pas seulement un outil, mais une sorte de Non pas pour remplacer l'imagination humaine, mais pour la secouer. Pour suggérer des chemins que nous ne marcherions jamais seuls. Peut-être que, dans l'espace entre précision et erreur, nous trouvons quelque chose de mieux: Médecine créative surprise. Logic Is Your Enemy La logique est votre ennemi Nos esprits sont fixés pour . Quand nous voyons un château, nous imaginons une princesse. Un chien? Probablement à la poursuite d'une balle. Un bébé? cohérence Cette reconnaissance automatique des schémas est incroyablement utile dans la vie quotidienne – elle nous aide à naviguer dans le monde rapidement et efficacement. dans notre cerveau, des boîtes qui notre potentiel créatif. boxes limit The Categorisation Trap: Your Brain Loves a Story Le piège de la catégorisation : votre cerveau aime une histoire Jetons un coup d’œil aux cartes suivantes : Maintenant, imaginez que je vous ai demandé de les regrouper en 3 catégories égales.La plupart des esprits verraient instantanément ceci: 
 
 
 
 Un ciel nocturne avec la lune, un nuage et une étoile Une scène de fête du thé avec une table, une tranche de gâteau et peut-être un thé Une forêt avec un renard, un arbre et un champignon Vous pouvez ajouter de la variation - peut-être que votre renard pique le champignon, ou peut-être que si vous êtes plus créatif que la personne moyenne, il est assis à côté d'un feu de camp, le grillant sur un bâton. Le contexte nous enferme dans un cadre. we still stick to the script Et quand tout le monde travaille dans le même cadre... l’unicité meurt un peu. Breaking the Context (on purpose) Briser le contexte (à des fins) Maintenant, allons le briser. Faisons face à ce qui est attendu et jetons nos instincts logiques par la fenêtre. Imaginez ce groupe à la place : Défendons la logique en faveur de la créativité illimitée. 
 
 
 
 
 
 A moon 
 
 A fox 
 
 A table Votre cerveau vient de s’arrêter, n’est-ce pas ? Vous ne pourriez probablement pas créer un visuel.Ou si vous l'avez fait, il se sentait déconnecté, absurde, même inconfortable. Mais devinez ce qui ne lutte pas ? générative AI bien sûr. Présentons au lieu de cela le groupe suivant : Et maintenant, profitons de l’imagination illimitée de DALL-E 3. Starts Celebrating Birthday with a Mushroom Cake Célébrer son anniversaire avec un gâteau Tree Drinking Tea inside a Cloud Un arbre boit du thé dans un nuage Fox and Moon Tea Party Fox et Moon Tea Party Free from Human Logic Libéré de la logique humaine DALL-E a été en mesure de mélanger facilement des concepts qui ne coïncident jamais dans le monde réel (hallucinations). Pourquoi y a-t-il une telle différence entre notre esprit et sa pensée ? Les humains ont tendance à avoir une raison basée sur Lorsqu’on nous demande d’imaginer une scène impliquant une lune, un renard et une table, notre cerveau essaye instinctivement de Nos esprits recherchent la logique, le contexte ou la métaphore, et lorsque nous ne pouvons en trouver une, nous nous arrêtons souvent ou nous abandonnons. Mais pas de la randomisation. meaning, coherence, and lived experience make sense of the combination optimised for relevance DALL-E, en revanche, ne repose pas sur la mémoire personnelle ou la logique linéaire. En l’exposant à Beaucoup d'entre eux sont inhabituels ou même surréalistes.Quand vous le promettez avec des éléments non liés comme une lune, une renne et une table, il n'hésite pas ou ne questionne pas si la connexion "a du sens". Comment ces objets sont apparus Même si indirectement. billions of images and captions countless visual combinations - statistical patterns together, near each other, or in similar visual contexts En d’autres termes : 
 
 
 L’homme a besoin de cohérence. Il faut juste une corrélation. Et là réside sa puissance : en étant libre du besoin humain de logique ou de cohérence interne, DALL-E peut Tout cela sans se faire une seconde hypothèse. confidently generate the absurd, the poetic, or the beautifully strange - A Human’s Muse Une souris humaine Nous avons été enseignés à craindre les hallucinations - à juste titre dans de nombreux domaines. Dans la médecine, le droit, l'histoire et les systèmes critiques en matière de sécurité, l'IA doit être maintenue à un niveau plus élevé de vérité. Le « défaut » même qui rend l’IA peu fiable en tant que source factuelle pourrait être ce qui la rend si puissante qu’une Les hallucinations, dans les mains droites, deviennent complètement autre chose : . creative companion a spark Quand DALL-E « comprend mal » un renard, une lune et une table, il n’échoue pas. Il nous invite à relâcher notre prise en charge de la logique, à voir ce qui se passe lorsque nous laissons tomber le récit et que nous embrassons la possibilité. dares Ce phénomène peut guérir le blocage d’un artiste en aidant notre esprit à relâcher le contexte et la logique, il peut stimuler la créativité et déclencher des idées qui auraient pu être au-delà de notre portée. Alors peut-être que la vraie question n’est pas « Peut-on arrêter l’IA d’halluciner ? » 
 
 Peut-être est-ce: que pouvons-nous construire quand nous le laissons rêver? C’est peut-être : What can we build when we let it dream? À propos de moi À propos de moi Je suis Maria Piterberg - un expert de l'IA qui dirige l'équipe de logiciels Runtime chez Habana Labs (Intel) et un artiste semi-professionnel travaillant sur les médias traditionnels et numériques. je me spécialise dans les systèmes de formation à grande échelle de l'IA, y compris les bibliothèques de communication (HCCL) et l'optimisation du temps de fonctionnement.

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

Read My Stories

Cet audio est produit dans la langue originale de l'histoire !

Trop long; Pour lire

Boost your HackerNoon story @ $159.99! 🚀

Bienvenue au musée des hallucinations

About Author

COMMENTAIRES

ÉTIQUETTES

CET ARTICLE A ÉTÉ PARU DANS

Related Stories

Naviguer sur les eaux : développer des applications RAG de qualité production avec des lacs de données

La fuite de l'invite du système Claude Sonnet 3.5 : une analyse médico-légale

Les couches invisibles : pourquoi les entretiens avec les utilisateurs sont un atout irremplaçable

Croissance des crypto-monnaies : créer des profils d'utilisateurs efficaces

Naviguer sur les eaux : développer des applications RAG de qualité production avec des lacs de données

La fuite de l'invite du système Claude Sonnet 3.5 : une analyse médico-légale

Les couches invisibles : pourquoi les entretiens avec les utilisateurs sont un atout irremplaçable

Croissance des crypto-monnaies : créer des profils d'utilisateurs efficaces

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps