TLDR; この記事は、DALL·Eのような生成型AIモデルにおけるAI幻覚の驚くべき創造的可能性を探求します。通常、深層学習の欠陥と見なされますが、これらの「エラー」は予期せぬ芸術的輝きを生み出すことができます。人間の想像力とAIのパターンベースの論理を比較することで、この作品は、AIの虚偽が実際に新しい種類の創造性であるかどうかを疑問視します。 幻覚 AIモデル 深い学習 人工知能 What Does It Mean for AI to “Hallucinate”? 「Hallucinate」とはどういう意味ですか? 用語 オックスフォード先進学者辞典によると、幻覚は、 幻覚 
 
 「病気や薬物のせいで、実際にそこにいない誰かや何かを見たり聞いたりするという事実」 「病気や薬物のせいで、実際にそこにいない誰かや何かを見たり聞いたりするという事実」 言い換えれば、幻覚は通常、間違った感覚と関連付けられています - 恐れられることや固定されること。 生成型AIの世界では、意味がそれほど異なるわけではありません。ChatGPTのようなLLM(Large Language Model)やDALL-Eのような生成型AIのモデルが「幻覚」であると言われる場合、それは生成したことを意味します。 こうした影響は深刻なものであり、モデルを完全に信頼することは決してできない、潜在的なリスクは?誤解する事実、危険なアドバイス、または破損したソフトウェア。 誤りあるいは誤った情報 誤りあるいは誤った情報 When Hallucination Goes Too Far 幻覚が遠くまで進むとき 暗い側から始めましょう. あなたが一度も訪れたことがない街でロマンチックな夜を計画していると想像してください. あなたはChatGPTにレストランを推薦し、有望な場所のリストから選択するように依頼します. しかし、あなたが到着したとき - すべての衣装を着て - あなたは指定された場所にレストランが存在しないことを発見します. さらに、それはどの場所にも存在しません。 やっぱりダメなんですけど、比較的ダメな例です。 さらに有害なシナリオを考えてみましょう: 
 
 
 
 
 医療の誤った情報は、間違った診断や治療につながります。 生徒に課金した歴史的な不正確さ。 システム全体を破壊するコードエラー 誤った解釈による自動運転障害 AIの幻覚は、単に虚構の副作用ではなく、彼らは持っているかもしれません。 . real-world consequences The Pentagon That Wasn’t なかったペンタゴン 2年前、検証済みのTwitterアカウント(現在のX)が 写真は、建物の隣の煙の雲を示しました。 このツイートはウイルスとなり、急速な市場反応を引き起こし、ダウジョーンズはわずか4分で85ポイント下落した。 爆発のイメージ ペンタゴン こちらはピックル - 画像は偽物でした。 こちらはピックル - 画像は偽物でした。 画像はAIによって生成された可能性があり、爆発は決して起こらなかったが、それが解消された時点で、 . the financial damage had already been done このイメージを生み出したのは人間の命令によるプロンプトなのか、あるいはモデルの幻覚なのかは明らかではないが、どちらの方法でも結果は同じだった。 When Bots Make Up Policy ボットが政策を作る時 最近、 その結果、ユーザーは文句を言い、一部はサブスクリプションをキャンセルした。 Cursor の AI サポート ボットは、このツールが 1 台以上のマシンで使用できないことをユーザーに通知しました。 たった一つの問題がありました: . it wasn’t true CursorのCEOは後で「我々はそのようなポリシーを持っていません。あなたはもちろん、複数のマシンでCursorを使用する自由です」誰が責任を持っていたか、あなたは尋ねますか? 「残念ながら、これは前線のAIサポートボットからの間違った回答です」CEOは述べました。 したがって、基本的に、AIは薄い空気から政策を発明しました。 The Courtroom Catastrophe 裁判所災害 最も有名な例:T 引用されたモデル 弁護士たちは、それを知らずに連邦裁判官に提出した結果? 制裁、罰金、そして国民の恥辱。 wo 弁護士は法的ブリートの作成に役立つためにChatGPTを使用しました。 completely fabricated legal cases 裁判官は、彼らは「責任を放棄した」とし、尋問を受けた後も偽りの引用に立ち続けたと述べた。 Can a Hallucination Be… Good? 幻覚は・・・良いものなのか? これらの例は、一つの結論を強調する: すべての出力は、どれほど説得力があり自信を持って聞こえるかにかかわらず、二重チェックされなければなりません。 AI cannot be trusted blindly 人間を完全に信頼できるのか? 人間を完全に信頼できるのか? では、幻覚を別の角度から見るとどうでしょうか。 テクノロジーの歴史の中で最もビジョンを持った心の1つ - 文字通り私たちが暮らす世界を形作るのに役立った人物 - は、幻覚を抱くことで知られていました。 アップルの共同創設者であるスティーブ・ジョブズは、創造的な思考を広げるために、LSDのような精神薬を公然と認めた。 彼を愛するか、彼を憎むか、誰も彼の影響の規模を否定できない。彼は単に製品を作ったのではなく、彼のビジョンに匹敵するために現実を曲げた。 Jobs, LSD, and Creativity 仕事、LSD、そして創造性 Steve Jobs openly credited his creative breakthroughs to psychedelic experiences. ウォルター・アイザクソンの生涯誌 彼は言う。 Steve Jobs 
 
 「LSDを摂取することは、私の人生で最も重要なことの1つであり、深い経験でした。LSDは、コインのもう一つの側面があることを示しています、そしてあなたはそれを覚えていませんが、あなたはそれを知っています。 「LSDを摂取することは、私の人生で最も重要なことの1つであり、深い経験でした。LSDは、コインのもう一つの側面があることを示しています、そしてあなたはそれを覚えていませんが、あなたはそれを知っています。 もし幻覚が人間が世界を異なって見るのを助けることができるなら、AI幻覚が同じ目的を果たすことができるだろうか。 When Hallucination Becomes a Creative Compass 幻覚がクリエイティブなコンパスになるとき 正しい文脈に置かれた幻覚は、ただの欠点以上のものなのかもしれないか。 芸術、ストーリーストーリー、またはデザインなどのビジョンに精度が次元的な領域では、おそらくバグではなく、予期せぬ機能を見ているかもしれません。 想像力 , I explored how DALL-E's so-called hallucinations turned rough children's sketches into vibrant, full-fledged illustrations. The AI filled in the gaps not with facts, but with flair - interpreting rather than replicating. DALL-E's so-called hallucinations turned rough children's sketches into vibrant, full-fledged illustrations. AI filled in the gaps not with facts, but with flair - interpreting rather than replicating. I explored how DALL-E's so-called hallucinations turned rough children's sketches into vibrant, full-fled illustrations. AI filled the gaps not with facts, but with flair. 私の前の記事で しかし、さらに進むことはできますか。 しかし、さらに進むことはできますか。 アーティストとして、私はクリエイティブなブロックの重みを知っています。それは静かに浮かび上がり、それから必要以上に長く続きます。あなたがオリジナリティを強制しようとしているほど、あなたのアイデアは、安全で予測可能でインスピレーションを受けずに、同じよく知られているパターンに戻ります。 もし生成型AIが単なるツールではなく、一種の 人間の想像力を置き換えるのではなく、人間の想像力を揺さぶるためでなく、自分たちで歩むべき道を示すためでもないかもしれない。 クリエイティブ医学 surprise. Logic Is Your Enemy 論理はあなたの敵 わたしたちの心は、 . 城を見ると、姫を想像する、犬を追いかける、おそらくボールを追いかける、子供を抱く、テディー熊を抱く。 一貫性 この自動パターン認識は日常生活に非常に役立ちます - それは私たちが世界を迅速かつ効率的に移動するのに役立ちます。 私たちの脳の中、その箱は 私たちの創造的潜在力 boxes limit The Categorisation Trap: Your Brain Loves a Story タイトル: Your Brain Loves a Story 以下のカードを見てみましょう。 さて、私があなたに3つのカテゴリーに分類するように頼んだと想像してみてください. Most minds would instantly see this: 
 
 
 
 A night sky with the moon, a cloud, and a star A tea party scene with a table, a slice of cake, and maybe a tea pot A forest with a fox, a tree, and a mushroom. 狐と木と真菌の森 あなたは変異を追加することができます - おそらくあなたの狐は真菌を嗅ぎ、またはおそらくあなたが平均的な人よりもクリエイティブであれば、それはキャンプファイアの隣に座り、それを棒に焼き付ける。 文脈は私たちを枠組みに閉じ込めます。 we still stick to the script そして、誰もが同じフレームワークから働いているとき、ユニークさは少しずつ死ぬ。 Breaking the Context (on purpose) 文脈を破る(意図的に) さて、これを壊そう。 予想を振り回し、論理的な本能を窓から投げ出す。 代わりにこのグループをイメージしてください: 無限の創造性のために論理に挑戦しよう。 
 
 
 
 
 
 A moon 
 
 A fox 
 
 A table まさか脳が止まってしまったんですよね。 おそらくあなたは視覚を作成することができなかったでしょう。もしくは、そうした場合、それは分離され、馬鹿げた、さえも不快な感じでした。 何が嫌いなのだろうか? まあ、生産性は? 代わりに以下のグループを紹介します。 そして今、DALL-E 3の無限の想像力を楽しもう。 Starts Celebrating Birthday with a Mushroom Cake バースデーをキノコケーキで始める Tree Drinking Tea inside a Cloud 雲の中の紅茶を飲む木 Fox and Moon Tea Party フォックス&ムーンティーパーティー Free from Human Logic 人間の論理から解放される DALL-Eは、現実世界で一度も起こらない概念(幻覚)を簡単に組み合わせることができました。 なぜ、私たちの心と彼の思考の間には、このような違いがあるのでしょうか。 人間は、理性に基づいて、 月、狐、テーブルを含むシーンを想像するよう求められたとき、私たちの脳は本能的に試みます。 われわれの心は論理、文脈、あるいは比を探し求め、それを見つけることができないとき、われわれはしばしば立ち止まったり諦めたりする。 偶然ではない。 meaning, coherence, and lived experience make sense of the combination optimised for relevance DALL-Eは、個人的な記憶や線形論理に依存していません。 それを暴露するために 彼らの多くは珍しい、あるいは超現実的なので、あなたが月、狐、テーブルのような無関係な要素でそれを促すとき、それは接続が「意味があるかどうか」を躊躇したり疑問に思ったりしません。 これらの物体がどのように現れたか 間接的にでも。 billions of images and captions countless visual combinations - statistical patterns together, near each other, or in similar visual contexts 言い換えれば、 
 
 
 人間には一貫性が必要です。 DALL-Eは単にコラレーションが必要です。 そしてそこにその力がある:人間の論理や内なる一貫性の必要性から解放されることによって、DALL-Eは 2 自己推測なし confidently generate the absurd, the poetic, or the beautifully strange - A Human’s Muse 人間のムーア 私たちは幻覚を恐れるように教えられています - 多くの分野で正しいことです. 医学、法律、歴史、および安全に重要なシステムでは、AIは真理の高い基準に留まらなければなりません。 AIを事実上のソースとして信頼できない「欠点」こそが、それがAIとして強力なものになるのかもしれない。 右手の幻覚は、まったく別のものになる: . creative companion a spark DALL-Eが狐、月、そしてテーブルを「誤解」したとき、それは失敗しません。 それは私たちに論理を解き放ち、物語を手放し、可能性を抱きしめるときに何が起こるかを見ることを招きます。 dares この現象は、私たちの心の文脈と論理を解放するのに役立つことによって、アーティストのブロックを癒すことができます、それは創造性を高め、私たちの把握を超えていたかもしれないアイデアを刺激することができます。 だから、本当の疑問は「AIが幻覚化するのを止めることはできないか」ではないのかもしれません。 
 
 もしかしたら、私たちが夢を見るのを許す時、私たちは何を建てることができますか? もしかしたら: What can we build when we let it dream? わたしについて わたしについて 私はMaria Piterberg - ハバナラボス(Intel)のRuntimeソフトウェアチームを率いるAI専門家であり、伝統的およびデジタルメディアで働く半プロのアーティストです。私はコミュニケーションライブラリ(HCCL)とランタイム最適化を含む大規模なAIトレーニングシステムに特化しています。

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

Read My Stories

このオーディオは、ストーリーの元の言語で制作されています。

長すぎる; 読むには

Make resilience your competitive advantage

「AI Hallucinations Museum」へようこそ

About Author

コメント

ラベル

この記事は

Related Stories

Claude Sonnet 3.5 システムプロンプトの漏洩: 法医学的分析

AI の力を解き放つ。最先端技術の体系的レビュー: 概要と序論

海を航海する: データレイクを使用した本番環境レベルの RAG アプリケーションの開発

デジタルノマドの皆さん、タイの新しい DTV ビザについて知っておくべきこと

Claude Sonnet 3.5 システムプロンプトの漏洩: 法医学的分析

AI の力を解き放つ。最先端技術の体系的レビュー: 概要と序論

海を航海する: データレイクを使用した本番環境レベルの RAG アプリケーションの開発

デジタルノマドの皆さん、タイの新しい DTV ビザについて知っておくべきこと

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps