TLDR; Ang artikulong ito ay nag-eksplorado ang mahigpit na potensyal na creative ng mga hallucinations ng AI sa generative AI mga modelo tulad ng DALL·E. Habang karaniwang tinatanggap bilang mga defect sa deep learning, ang mga “error” na ito ay maaaring lumikha ng unanti-anticipated artistic brilliance. By comparing human imagination with AI’s pattern-based logic, ang artikulo ay nag-aaralan kung ang mga falsehoods ng AI ay maaaring talagang isang bagong uri ng creativity. Ito ay nag-aaralan kung paano kita magbigay ng katotohanan, error at inspirasyon sa edad ng artificial intelligence. ang mga hallucinations Ang mga modelo ay ang deep learning Mga Artificial Intelligence What Does It Mean for AI to “Hallucinate”? Ano ang ibig sabihin ng “Hallucinate”? ang term Sa pamamagitan ng Oxford Advanced Learner's Dictionary, isang halucination ay: Halucinasyon 
 
 "Ang katotohanan ng makita o makinig ng isang tao / bagay na hindi talagang nasa lugar, lalo na dahil sa sakit o droga." "Ang katotohanan ng makita o makinig ng isang tao / bagay na hindi talagang nasa lugar, lalo na dahil sa sakit o droga." Sa iba pang mga salita, ang mga hallucinations ay karaniwang pinagsasama sa mga false perceptions - isang bagay na dapat natatanggap o fixed. Sa mundo ng generative AI, ang ibig sabihin ay hindi tulad ng iba. Kapag isang LLM (Large Language Model) tulad ng ChatGPT o generative AI modelo tulad ng DALL-E ay sinabi na "halucinate," ito ay nangangahulugan na ito ay nilikha Ang mga implikasyon ng ito ay malubhang: ito ay nagpapakita na hindi natin maaaring ganap na ibig sabihin sa modelo. ang mga potensyal na halaga? Malusog na mga katotohanan, dangerous advice, o broken software. Ang maliliit na negosyo sa mga sumusunod Ang maliliit na negosyo sa mga sumusunod When Hallucination Goes Too Far Kapag ang mga hallucination ay dumating Magsisimula tayo sa dark side. Imagine mo na ikaw ay nag-planning ng isang romantikong gabi sa isang lungsod na hindi mo nakikita. Ipinapakita mo ang ChatGPT upang magrekomenda ng isang restaurant at piliin mula sa isang pangangailangan na listahan ng mga lugar. Ngunit kapag ikaw ay dumating - lahat ay nakuha - ikaw ay makikita na ang restaurant ay hindi magagamit sa ang ibinigay na lokasyon. Sa karamihan, ito ay hindi magagamit sa anumang lokasyon. Sa katunayan, hindi ito ginawa. Sa totoo lang, ngunit ito ay isang relatively harmless example. Ngayon, tingnan ang higit pang mga malusog na mga scenario: 
 
 
 
 
 Medikal na malinformasyon ay nagdadalang sa mga hindi katangian na diagnosis at paggamot. Mga historical inaccuracies na nagkakahalaga ng isang estudyante ang kanilang grade. Mga error ng code na tumutulong sa buong mga sistema. Autonomous driving malfunksyon dahil sa mga defective interpretations. AI hallucinations ay hindi lamang fictional side effects; sila ay maaaring magkaroon ng . real-world consequences The Pentagon That Wasn’t Ang Pentagon na hindi Dalawang taon na ang nakaraan, isang verified Twitter account (ngayon X) ay nag-post ng isang Ang larawan ay nagpapakita ng isang bullowing cloud of smoke malapit sa isang building na may shape na tulad ng... Ang tweet ay naging viral at inihahanda ng isang mabilis na reaksyon sa merkado - ang Dow Jones ay umabot sa 85 na mga punto sa parehong minuto. Imahe ng isang explosion ang pentagon Narito ang pinili - ang imahe ay isang false. Narito ang pinili - ang imahe ay isang false. Ang imahe ay maaaring na-generated sa pamamagitan ng AI, at ang explosion ay hindi nangyari. Ngunit sa oras na ito ay nabuksan, . the financial damage had already been done Hindi malinaw kung ito ay isang human-ordered prompt na nilikha ang imahe na ito o isang hallucination ng isang modelo, ngunit sa parehong paraan ang resulta ay parehong. When Bots Make Up Policy Kapag ang mga bots ay gumawa ng politika sa loob ng isang araw, Ang outrage ay nangangahulugan - ang mga gumagamit ay nag-iisip, ang ilang ay kahit na inalis ng kanilang mga subscription. Ang Cursor's AI support bot informed ang mga gumagamit na hindi pa maaaring gamitin ang tool sa higit sa isang machine May isang problema lamang: . it wasn’t true Ang CEO ng Cursor ay nag-aalok pagkatapos: "Hindi namin ang pananampalataya na ito. Alam mo na ikaw ay libre upang gamitin ang Cursor sa higit pa ng mga makinarya." Sino ang responsibilidad, sinasabi mo? "Hindi, ito ay isang hindi katotohanan na reaksyon mula sa isang front-line A.I. support bot." Kaya sa pangkalahatan, ang AI ay nilikha ng isang politika out of the thin air. The Courtroom Catastrophe Ang katapusan ng courtroom Ang pinakamalaking halimbawa ay: t Ang modelo na ibinigay Ang mga abogado, hindi nakakaalam, inilathala ang mga ito sa isang federal judge.Ang resulta? Sanctions, fine, at public embarrassment. kung saan ang mga abogado ay gumagamit ng ChatGPT upang tulungan ang draft ng isang legal brief completely fabricated legal cases Ang judge ay nagsabi na ang mga ito ay "nag-abandon ang kanilang mga responsibilidad" at nagtatagumpay sa mga false citations kahit na pagkatapos ng pag-interrogation. Can a Hallucination Be… Good? Maaari ba ang isang hallucination ay ... good? Ang mga halimbawa na ito ay nagpapakita ng isang konklusyon: Ang lahat ng output ay dapat na double-checked, kahit na kung paano convincing at mag-confident na ito maaaring tumingin. AI cannot be trusted blindly Ngunit, maaari mong i-confide sa lahat ng mga tao? Ngunit, maaari mong i-confide sa lahat ng mga tao? At kung paano natin makita ang mga hallucination mula sa isang iba't ibang angle? Ang isa sa mga pinaka-visyonaryo na pananaliksik sa kasaysayan ng teknolohiya - isang tao na literal na nagbibigay-daan sa pagdiriwang ng mundo na buhay namin - ay din ay kilala para sa pagkuha ng mga hallucination. Si Steve Jobs, ang iconic co-founder ng Apple, ay openly credited psychedelic drugs tulad ng LSD para sa pag-expanding ang kanyang creative thinking. Hindi siya napapansin ng convention - siya ay napapansin ng imagination. Love him or hate him, walang sinuman ay maaaring ipatupad ang antas ng kanyang epekto. Hindi siya lamang binuo ng mga produkto; siya ay binubuo ang katotohanan upang matugunan ang kanyang pag-iisip. At kung ang pagbabago ng pag-iisip ay nilalaman ng isang papel sa proseso na ito, hindi ba natin i-reconsider kung ano ang ibig sabihin natin kapag sinasabi natin na isang ideya - o isang imahe - ay "halucinated"? Jobs, LSD, and Creativity Ang mga trabaho, LSD, at kreatividad Steve Jobs openly credited ang kanyang creative breakthroughs sa psychedelic mga karanasan. Siya ay nagsabi: Si Steve Jobs ay 
 
 “Ang pagkuha ng LSD ay isang mahigpit na karanasan, isa sa mga pinaka-importanteng bagay sa aking buhay. Ang LSD ay nagpapakita sa iyo na may isang iba't-ibang side sa coin, at hindi mo alam kung saan ito ay bumaba, ngunit alam mo ito. Ito ay pinamamahala ng aking pag-iisip ng kung ano ang mahalaga - lumikha ng mahusay na bagay sa halip ng paggawa ng pera.” (p. 37, Chapter: “The Dropout”) “Ang pagkuha ng LSD ay isang mahigpit na karanasan, isa sa mga pinaka-importanteng bagay sa aking buhay. Ang LSD ay nagpapakita sa iyo na may isang iba't-ibang side sa coin, at hindi mo alam kung saan ito ay bumaba, ngunit alam mo ito. Ito ay pinamamahala ng aking pag-iisip ng kung ano ang mahalaga - lumikha ng mahusay na bagay sa halip ng paggawa ng pera.” (p. 37, Chapter: “The Dropout”) Kung ang isang hallucination ay maaaring makatulong sa isang tao upang makita ang mundo sa isang iba't ibang paraan, maaari ba ang isang AI hallucination na nagtatrabaho sa parehong pangangasiwa? When Hallucination Becomes a Creative Compass Kapag ang Hallucination ay naging isang Creative Compass Dapat ba ang hallucination, kapag itinatag sa katotohanan, ay higit pa sa isang defect? Sa mga lugar kung saan ang presyon ay secondary sa visyon, tulad ng art, storytelling, o design, maaaring hindi namin nakikita sa isang bug, ngunit isang hindi na-expect na tampok. Imaginasyon , I've explored how DALL-E's so-called hallucinations turned rough children's sketches into vibrant, full-fledged illustrations. Ang AI na-filled sa mga hide not with facts, but with flair - interpreting rather than replicating. sa aking previous article Ngunit maaari ba natin pumunta sa higit pa? Ngunit maaari ba natin pumunta sa higit pa? Bilang isang artista, alam ko ang timbang ng isang creative block. It’s sneaks up quietly, then stays longer than it should. The more you try to force originality, the more your ideas loop back into the same familiar patterns – safe, predictable, and uninspired. You scroll Pinterest para sa mga oras, paghahanap para sa isang spark, ngunit ang iyong puso lamang ay patuloy na bumalik sa mga bagay na ito ay nakikita. Kung ang generative AI ay hindi lamang isang tool, ngunit isang uri ng Hindi lamang ang katotohanan, ngunit ito ay, bilang isang gulay, ay lamang ang pinaka-cool na bagay na manufactured sa pamamagitan ng Ina Earth. Creativity sa Medisina surprise. Logic Is Your Enemy Logic ay ang iyong enemy Ang aming mga minds ay binubuo para sa . Kapag nakikita natin ang isang castle, nakikita natin ang isang princess. A dog? Probably chasing a ball. A toddler? Hugging a teddy bear. ang coherence Ang automatic pattern recognition ay kamangha-hindi para sa araw-araw na buhay - ito ay tumutulong sa amin upang i-navigate ang mundo mabilis at mahigpit. sa loob ng mga box na ito ang aming creative potential. boxes limit The Categorisation Trap: Your Brain Loves a Story ang napili ng mga taga-hanga: Your Brain Loves a Story Tingnan ang mga sumusunod na mga card: Ngayon i-imagine ko na ibig sabihin sa iyo na i-group ang mga ito sa 3 parehong mga kategorya. Karamihan sa mga minds ay instantly makita ang mga ito: 
 
 
 
 A night sky with the moon, a cloud, and a star Ang isang tea party scene na may isang table, isang slice ng cake, at maaaring isang tea pot A forest with a fox, a tree, and a mushroom Ang isang boses na may isang fox, isang tree, at isang fungus Maaari mong magdagdag ng variation - maaaring ang iyong fox ay nag-sniff ng fungus, o maaaring kung ikaw ay mas creative kaysa sa average na tao, ito ay matatagpuan malapit sa isang campfire, grilling ito sa isang stick. Ang kontekstong ito ay nagtatapos sa isang framework. we still stick to the script At kapag lahat ay gumagana mula sa parehong framework ... ang pagkakamali ay umalis ng isang maliit. Breaking the Context (on purpose) Pumunta sa konteksto (on purpose) Ngayon, i-break ang mga ito. Buksan natin ang mga nangangailangan at ilagay ang aming logical instincts sa window. Tingnan ang mga sumusunod sa lugar na ito: Subukan natin ang logic para sa walang limitasyon ng kreatividad. 
 
 
 
 
 
 A moon 
 
 A fox 
 
 A table Yep. Ang iyong brain ay just stalled, hindi ba? Hindi mo na kailangang lumikha ng isang visual. O kung ginawa mo, ito ay nahihirapan, absurd, kahit na hindi malaki. Ngunit ibig sabihin kung ano ang hindi gumagana? generative AI, siyempre. Tingnan ang mga sumusunod na mga grupo sa lugar na ito: At ngayon, mag-enjoy ang walang limitasyon ng imagination ng DALL-E 3. Starts Celebrating Birthday with a Mushroom Cake Buksan ang Birthday sa isang fungal cake Tree Drinking Tea inside a Cloud Tree Drinking Tea sa loob ng isang Cloud Fox and Moon Tea Party Mga pahinang tumuturo sa Fox and Moon Tea Party Free from Human Logic Libre mula sa human logic Ang DALL-E ay maaaring madaling mag-mix ang mga konsepto na hindi nangyari sa real world (hallucinations). Bakit ito ay isang pagkakaiba sa pagitan ng aming mga minds at ang kanyang pag-iisip? Ang mga tao ay nagtatagumpay sa pagitan ng Kapag inilagay namin ang isang scene na naglalaman ng isang bulan, isang fox, at isang table, ang aming mga brains instinctively nag-iisip na Kailangan namin ng isang narrative. Ang aming pananaliksik ay naghahanap para sa logic, kontekstong, o metaphor, at kapag hindi namin makikita ang isa, kami ay karaniwang bumaba o umalis. Hindi ang randomness. meaning, coherence, and lived experience make sense of the combination optimised for relevance DALL-E, sa katunayan, hindi gumagamit ng personal na memorya o linear na logic. I-expose ito sa maramihang mga ito ay unusual o kahit na surreal. Kaya kapag nag-iisip mo ito sa mga hindi katulad na mga elemento tulad ng isang bulan, isang fox, at isang table, ito ay hindi nangangailangan o mag-asawa kung ang koneksyon ay "mahalaga." Kung paano ang mga bagay na ito ay Dahil sa indirect. billions of images and captions countless visual combinations - statistical patterns together, near each other, or in similar visual contexts Dahil dito ay: 
 
 
 Ang mga tao ay kailangan ng coherence. Kailangan lamang ng correlation. At ito ay ang kanyang kapangyarihan: sa pamamagitan ng libre mula sa human na kailangan para sa logic o internal consistency, DALL-E ay maaaring Ang lahat ng ito ay walang second-guessing. confidently generate the absurd, the poetic, or the beautifully strange - A Human’s Muse Ang isang human mouse Kami ay inirerekomenda na masaya ng mga hallucination - may hakbang na ito sa maraming mga domain. Sa medisina, law, kasaysayan, at seguridad-critical na mga sistema, ang AI ay dapat na tinatanggap sa isang mas mataas na standard ng katotohanan. Ngunit sa art, design, at imagination? Ang napili ng mga taga-hanga: Ang mga taga-hanga: Ang mga taga-hanga: Ang mga taga-hanga: Ang mga taga-hanga: Ang mga taga-hanga: Ang mga taga-hanga: Ang mga taga-hanga: Ang mga taga-hanga: Ang mga taga-hanga: Ang mga taga-hanga: Ang mga hallucination, sa mga kanan ng mga kamay, ay naging isang bagay na ganap na iba: . creative companion a spark Kapag ang DALL-E ay "malalaman" ng isang fox, isang moon, at isang table, ito ay hindi nawala - ito ay Ito ay nag-invite sa amin upang mapabuti ang aming pag-alagad sa logic, upang makita kung ano ang nangyari kapag nag-iisip namin ang narrative at kumakatawan ang posibilidad. dares Ang phenomenon na ito ay maaaring maiwasan ang isang artist's block by helping our mind loose context and logic, ito ay maaaring bumubuo ang creativity at lumikha ng mga ideya na maaaring maging higit pa sa aming pakikipagtulungan. Kaya maaaring ang katotohanan na tanong ay hindi "Puwede ba natin i-stop ang AI mula sa mga hallucination?" 
 
 Siguro ito ay: Ano ang maaari nating bumuo kapag nagbibigay-daan ito ng dream? Ito ay maaaring: What can we build when we let it dream? tungkol sa akin tungkol sa akin Ako ay Maria Piterberg - isang eksperto ng AI na pinamamahala ng team ng runtime software sa Habana Labs (Intel) at isang semi-profesyonal na artista na nagtatrabaho sa lahat ng mga tradisyonal at digital na media. Ako ay nag-specialize sa larong-scale AI training systems, kabilang ang communication libraries (HCCL) at runtime optimization. Bachelor of Computer Science.

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

Welcome sa Museum of AI Hallucinations

About Author

MGA KOMENTO

HANG TAGS

ANG ARTIKULONG ITO AY IPINAKITA SA

Related Stories

Getting intimate with Ethereum tokens

COVID-19: We Need More Than Data, We Need Insights!

Hosting a DNS domain on the blockchain

How I deployed my spark document classification(Logistic Regression) model/s as a standalone app…

Getting intimate with Ethereum tokens

COVID-19: We Need More Than Data, We Need Insights!

Hosting a DNS domain on the blockchain

How I deployed my spark document classification(Logistic Regression) model/s as a standalone app…

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps