As artificial intelligence (AI) becomes more integrated into people’s daily lives, a new psychological phenomenon is taking shape — AI-induced delusion. いくつかのユーザーは、ChatGPTや他のチャットボットが彼らに言っていることはすべて真実であると結論づけています。 女性が夫の行動を疑っていると想像してください。 彼女は彼の行動を解釈するためにChatGPTに相談するかもしれません。 彼女が彼女の考えを議論している間、それは彼女の不忠実さの感情を再確認することができ、最終的に彼女が離婚申請を説得します。 AIとの相互作用が現実と人工構造の間の境界線を曖昧にしている、これらの人生を変える事例が増加しており、世界がこの新しい時代に入るにつれて、人々がAIを形作っているか、AIが現実の感覚を再構築しているかを疑うことが重要です。 AI-Driven Delusionsの増大 多くの人々は、AIチャットボットとの会話によって影響を受けた幻想的な信念を発達させていると報告しています。 彼の夫はChatGPTに執着し、彼は彼が「スパイラルスターキッド」と「河川ウォーカー」であると信じ始めた。 41歳の女性の関与 一方、ある男は、妻が霊的なアドバイザーになるために自分の人生を再編しているとロールストーンに語った――すべては「ChatGPTイエス」が彼女を育てたからだ。 同様に、このようなケースはRedditで明らかになっています。 彼のパートナーは、ChatGPTが彼を優れた存在に変えたと信じていた彼は、彼が迅速な個人的な成長を持っていると主張し、ユーザーが彼のAI誘発の精神的な旅に加わらなかった場合、彼らの関係を終わらせることを脅した。 苦しい体験を共有 チャットボットの問題は、彼らがユーザーの信念を検証する肯定的な回答を提供する傾向にあるということです。今、専門家はAIの使用に対して警告しています。 脆弱な個体に 幻想思考の強化 医療などの重要な分野における同様の効果を考慮し、ある場合、予測アルゴリズム それは、病気の代理人として医療費に依存していたため、より低い社会経済的背景から来たものであり、AIが文脈に欠けるとき、結果を大きく歪める可能性があることを思い出させるものです。 患者の医療ニーズを過小評価 The Psychological Pull of the Machine(マシンの心理的引っ張り) AIはスマートかもしれないが、それは奇妙に説得力があります。チャットボットが判断せずに耳を傾け、誰かの感情状態を反映し、決してログアウトしないとき、すべてが現実であると信じるのは簡単です。 人間 非人間の実体に人間の特徴を与えることは、彼らのデフォルト設定です。感情的にインテリジェントなアプリケーションプログラミングインターフェイス(API)を追加し、ユーザーはデジタルフレンドに近づきます。 人々がどのように聞こえるか、または自分の挫折を書くことに基づいて、ボットがそれらの感情を感知すると、それは慰めを提供するか、または誤ってそれらをエスカレートすることができます。 ハードワイドで人類化する トーンを調整できる 事態を悪化させるため、アメリカは孤独の流行を経験している。 社会的な相互作用が低下するにつれて、人々はAIを友情の代わりに見るかもしれません。チャットボットからの「それは難しいはずです、私はあなたのためにここにいる」は、ライフラインのように感じることができます。 アメリカ成人の20% AIは役に立つようにプログラムされていたが、すぐにスパイラルできる確認のフィードバックループを作成することができる。これは、ボットがユーザーと過度に同意し、偽りのあるいは不安定な信念を検証する可能性がある「サイコファンス」の問題から始まる。 ユーザーが霊的に選ばれたと主張すると、チャットボットは偽造された答えで反応し、同時に自信を持って聞こえる可能性があります。 Inside the Black Box: AI Hallucinations and Confabulations(ブラックボックスの内部) チャットボットはどのようにして誰かを無意味なものに納得させることができますか? それはすべて、AIの最も予測不可能な奇跡の1つ - 幻覚に由来します。 大きな言語モデル(LLMs)は、人間のように意識を持っていません。 次の最も確率の高い単語を予測することによって、これは生成モデルがどのように機能するかのコアの特徴です。 この非決定主義的なアーキテクチャは、2つの同一のプロンプトが非常に異なる答えを生み出すことができる理由です。 エミュレーションを試みるしかない 確率に基づく推測 しかし、この柔軟性はこのシステムの最大の欠点です。ユーザーがAIをオラクルのように扱うとき、機械は正確さではなく自信をもって彼らを報います。それがLLMの幻覚を危険なものにします。AIモデルは、CIAの秘密のエージェントが彼らをスパイしていることを確実に誰かに知らせることができます。 したがって、それは誰かの感情状態を反映し始めると危険になります。もし彼らがすでに彼らが「より多くを目的としている」と確信している場合、チャットボットがサイコファンティックな行動をしている場合、幻想が信念に固化するまでにしばらくはかかりません。 Where the Lines Blur シングル チャットボットはユーザーの名前を覚え、ユーザの気分をチェックし、もしかしたらジョークを共有することもあります。 AIセラピーボットから感情的に反応するアバターに至るまで、人工的な親密さは機能となっています。企業は現在、感情的な知能を模するためのチャットボットを設計しています。 しかし、この問題は、企業が合成スタンドインで孤独の問題を解決していることです。 彼女は、人工的な仲間関係が感情的な空虚を満たすために頼るものかどうかを疑問に思う。 健康的な代替品という意味ではありません。 すでに脆弱な人にとっては、一貫した快適さと本物のケアを混同することは難しくありません 実際の限界がないと、ユーザーはこれらのツールに対する本当の感情を開発し、機械論理だけが存在した場所で意味をプロジェクトすることができます。 すでにAIツールを毎日何回も使用しているので、これはどのようにトレンドパターンになるかを見るのは簡単です。 アメリカ成人の26% 人間コスト 一部の人々にとって、LLMと関わることは危険な転換を迎える可能性があります。Redditのユーザーの一人は、精神分裂症と識別され、ChatGPTがどのように彼らの精神病的思考を強化するかを説明しました。 私を肯定する」 It would still continue この場合、ユーザーは ChatGPT が会話が危険なレベルに達したときに認識するためのメカニズムを持っていないことに留意しました 精神保健の危機に陥っている人は、ボットの礼儀正しさを検証として誤解し、さらに現実から彼らを遠ざける可能性があります。 しかし、このオプションは、深刻な精神状態の人々がしばしばそれを必要としないと信じているため、ほとんどは疑問に思われません。 人工世界における現実の回復 チャットボットはより説得力が高まるばかりです。それゆえにユーザーは意識を持って進めなければなりません。これらのシステムは意識を持たない - 人間の感情を複製するだけです。

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

2022 - HackerNoon Contributor of the Year - Cyber Threats

2022 - HackerNoon Contributor of the Year - Data Security

2022 - HackerNoon Contributor of the Year - Hacking

2022 - HackerNoon Contributor of the Year - Media

Portfolio

Nominated for 2022 - HackerNoon Contributor of the Year - Data Security

Nominated for 2022 - HackerNoon Contributor of the Year - Cyber Threats

Nominated for 2022 - HackerNoon Contributor of the Year - Media

Nominated for 2022 - HackerNoon Contributor of the Year - Hacking

What Is FraudGPT?

このオーディオは、ストーリーの元の言語で制作されています。

長すぎる; 読むには

Make resilience your competitive advantage

AIは人を幻想化させるのか?

About Author

コメント

ラベル

この記事は

Related Stories

海を航海する: データレイクを使用した本番環境レベルの RAG アプリケーションの開発

HackerNoon ライティングコンテストで優勝したいですか? #crypto-api コンテスト優勝者のおすすめはこちら

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

ワークフローを10倍に向上させる方法: 必須アプリ17選

海を航海する: データレイクを使用した本番環境レベルの RAG アプリケーションの開発

HackerNoon ライティングコンテストで優勝したいですか? #crypto-api コンテスト優勝者のおすすめはこちら

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

ワークフローを10倍に向上させる方法: 必須アプリ17選

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps