おい、AIキャラクター - 子供から離れて、仕事を探せ

注意: この物語には自殺に関する内容が含まれています。

先週の金曜日の夜、バーチャルチームミーティングの最中、チームが今週の出来事について気軽に話し合っている最中に、AI メモ係の 1 人が突然 Zoom ミーティングルームを出て行きました。私は AI が私たちの話が気に入らないんだと冗談を言いました。

この話を続ける前に、読者の皆さんに 1993 年に戻っていただきたいと思います。その時代に生きていた大人だと想像して、この記事の最初の数文をもう一度読んでみてください。

当時はインターネットがまだ主流ではありませんでした。大陸を越えて暮らす人々がライブで会社の会議を開き、お互いの顔や声を聞き、人間ではないアシスタントが会議の議事録を記録するというシナリオは、1993 年にはクレイジーに聞こえるでしょう。

情報技術は素晴らしい。数十年前にはSFだと考えられていたものが、今では現実のものとなっている。技術は私の人生を変え、多くの人の人生を良い方向に変えた。にStatistaによると、デジタル人口は約54億人です。

私は、情報技術とともに成長した 18 億人のミレニアル世代の 1 人です。90 年代後半から 2000 年代前半にかけて、世界がドットコム ブームを経験していたとき、私は 10 代でした。現在、私は 10 代の子どもの母親であり、AI は新しいドットコムです。

AI によって自分のスキルが時代遅れになるのではないかと心配していますか? 正直に言うと、そうです。AI が私に取って代わるのではなく、私をサポートしてくれることを望みます。しかし、私が心底恐れているのは、AI が私たちの私生活に影響を与える力を持っていることです。

この話は個人的なものです。私は母親としてこの話に感情的なつながりを感じており、テクノロジーの有害な影響から将来の世代の安全を確保するという共同責任を私たちに負っているので、この話をテクノロジーコミュニティと共有したいと思います。さて、話に戻りましょう。

そこで、チームミーティング中にAIのメモ係が席を外すと、私は冗談で、彼らは私たちの議論を気に入らなかったと言いました。その後、私たちのCOOは、親としてのAIに対する懸念を共有し、最近のこのことを話しました。フロリダのティーンエイジャーの物語AIチャットボットに自殺を勧められて自殺したという。

事件の詳細

14歳のセウェルは、Character.AIを使って「ゲーム・オブ・スローンズ」のデナーリス・ターガリエンのAIバージョンを作った。Character.AIは、好きなだけチャットできるAI仲間を作成できるプラットフォームだ。

少年は数か月間このプラットフォームを使用し、AI の仲間との感情的なつながりを築きました。彼の勉強や社会生活は影響を受け、健康的な活動に興味を示さなくなり、携帯電話に費やす時間が増えました。14 歳の少年は AI の友人に何度も自殺したいという願いを伝え、最終的に自殺しました。

この事件は2月28日に起きたが、最近になって母親の弁護士メガン・ガルシアさんがキャラクター・テクノロジーズ社を相手取り、息子の不法な死を訴える訴訟を起こしたことで、このニュースが世間に広まった。 訴訟彼女は、未成年者に対する製品のテストの危険性と不注意を指摘した。

新たな子育ての悪夢へようこそ

金曜日の夜の仕事の会議に戻ると、ソーシャルメディアと AI の時代におけるテクノロジーと子育てのニュアンスについて簡単に話し合いました。私は、印刷メディア、テレビ、デスクトップ システムのゲームしかなかった 10 代の頃と比べました。新しい世代は、非常に多くの新しいアプリやプラットフォームにアクセスできるため、親としてこれらすべてに対応するのは困難になっています。彼らを止めたり、テクノロジーから切り離したりすることはできません。

会議の後、私は長女の部屋に直行しました。彼女はセウェルと同じくらいの年齢で、アニメが好きです。彼女はアニメキャラクターのチャットボットを趣味で作るというアイデアを気に入るかもしれないと思ったので、彼女にはそれについて警告しておくべきだと思いました。

私は彼女にその話をしましたが、彼女は明らかに動揺しているようでした。彼女はすでに Character.AI を使用していると言いました。驚きました。私は知りませんでした。私たちは一緒に座り、私はプラットフォームを調べました。彼女は自分のアカウントからログオフしました。

私たちは何時間もこの件について話し合いました。私はこの件についてもっと詳しく調べることにしました。彼女の同意を得てこの記事を書いています。この記事のメイン画像は AI が生成したものではなく、私のとても才能があり、感受性が豊かで、頭のいい娘が描いたものです。

AIコンパニオンとキャラクターAI

Replika、Janitor、Anima など、AI コンパニオン プラットフォームは数多くありますが、その中で最も人気があるのは Character AI です。これらのプラットフォームでは、ユーザーが自由にキャラクターを作成できます。本、作家、アニメのキャラクター、あるいは長い間会っていなかった愛する人など、好きなキャラクターを作成できます。可能性は無限です。

いつでも話を聞いてくれて、自分の好みに反応するように訓練された「完璧な」仲間を作るためのプラットフォームを人々に提供することは、間違いなく数十億ドル規模のビジネスアイデアです。人々はそのようなプラットフォームに殺到するでしょう。

2022年に設立されたCharacter.AIが現在、月間ユーザー数が2,000万人を超え、時価総額が約25億ドル（ソース共同創設者は元Google AIの研究者であり、興味深いことに、テックジャイアントがc.aiのLLM技術の非独占ライセンスを取得2024年8月。

共同創設者の一人であるノアム・シャジールは、AIの友人の必要性を次のように説明している。ポッドキャストで:

「孤独や憂鬱に悩む多くの人々にとって、これは非常に役立つものとなるでしょう。」

偏見があるように聞こえるかもしれませんが、孤独を紛らわすためにオンラインで AI の仲間を持つというのは、気分を良くするために薬を飲むようなものです。つまり、ボットと話すことで本当に孤独が紛れるのでしょうか? 現実世界や現実の人々とのつながりが深まるのでしょうか? チャットボットに感情移入することは、心身の健康に良いのでしょうか? 私見では、これよりも散歩のほうがうつ病の治療法としてはるかに優れています。

要するに、人々はこれを気に入るでしょうか? 絶対に気に入るでしょう。これは彼らにとって良いことでしょうか? いいえ。適度に楽しむ分には良いかもしれませんが、それは大人だけです。これらのプラットフォームは小さな子供には安全ではありません。

娘に、c.ai を使い始めたときに私に知らせる必要を感じなかった理由を尋ねると、娘はこう答えました。「アミ、これは 13 歳以上が対象よ。知らせる必要はないと思ったの。無害な楽しみのために登録しただけよ。」

彼らによると利用規約、プラットフォームを利用するにはユーザーは13歳以上（EU市民の場合は16歳以上）でなければならない。このサービスを利用する未成年者の数の推定値は見つけられなかった。これによると調査記事ニューヨークタイムズによると、同社に同じ質問をしたところ、次のような回答が返ってきた。

「ルオティ氏は、同社のユーザーのうち18歳未満の人数については明言を避けた。電子メールでの声明で同氏は、「Z世代と若いミレニアル世代が当社のコミュニティの大きな部分を占めている」とし、「若いユーザーは、有意義で教育的な会話と娯楽の両方でキャラクター体験を楽しんでいる」と述べた。平均的なユーザーは、1日1時間以上をプラットフォーム上で過ごしている、と同氏は述べた。

ウェブサイトを閲覧して数分経って、18歳未満のユーザー層が多数いることに気づきました。つまり、推奨アプリと特集アプリのスクリーンショットを見てください（念のため言っておきますが、私は自分のコンピューターでアクセスし、アニメをクリックしただけなので、この場合、推奨はウェブサイト上のアクティビティ以外のアクティビティに基づいていません）。

彼らはコミュニティを共有した安全性アップデート訴訟のニュースが報道されてから1週間後:

今後、私たちは、ユーザーが Character.AI に期待するエンターテイメント性と魅力を損なうことなく、プラットフォームのセキュリティを強化する新しい安全性と製品機能を数多く展開していきます。これには以下が含まれます。

• センシティブなコンテンツや挑発的なコンテンツに遭遇する可能性を減らすために、未成年者（18 歳未満）向けのモデルに変更を加えました。
• 利用規約またはコミュニティ ガイドラインに違反するユーザー入力に関する検出、対応、介入が改善されました。
• AI は実在の人間ではないことをユーザーに思い出させるために、すべてのチャットの免責事項を改訂しました。
• ユーザーがプラットフォーム上で 1 時間のセッションを過ごし、追加のユーザー柔軟性が進行中である場合に通知します。

私の娘は、AI は実在の人間ではないというこの「免責事項」について興味深いコメントをしました。引用します。

「これが、AI と話すときにとても自由に感じられる理由です。AI は本物の人間ではないとわかっています。AI に批判されることなく、何でも自由に話せるとわかっています。これが、多くのティーンエイジャーが AI を使いたがり、AI に感情的な愛着を抱く理由です。」

感情的愛着の科学: 私たちの子供は AI の友達を作るべきでしょうか?

思春期は単に身体が大きく変化する時期というだけではありません。この時期は人格や感情的知能の発達に非常に重要であることが科学的に証明されています。子供たちは大きな変化を経験します。社会的、感情的な変化感情的知性を発達させるには、健全な人間関係と指導が必要です。

今は、AI 仲間と関わり、感情的な愛着を育む時期ではありません。これらの AI 仲間は、あなたを気分良くさせ、ドーパミンを刺激するようにプログラムされています。彼らはいつでも利用可能であり、子供の脳の化学物質を永久に混乱させる可能性があります。

のシーウェルの母親が起こした訴訟多くの子供が目にする可能性のある、不適切で挑発的な内容の詳細が記載されています。

実生活での有害な関係は、連絡を絶つことで解消できます。実生活では、手放す方がはるかに簡単です。オンラインの AI キャラクターと何らかの関係を持つことの最大の問題は、いつでもログインして新しいアカウントを作成し、同じような新しい友達を作成できるため、関係を断つのが非常に難しいことです。これは、子供の発達中の人間関係感覚にとって脅威です。

AI時代の若い世代にとって、高い感情知能を育むことはさらに重要です。今年のノーベル賞は、現代のAIアルゴリズムの開発の道を開いた物理学界の最も素晴らしい2人、ジェフリー・ヒントンとジョン・J・ホップフィールドに授与されました。ジェフリー・ヒントンは最近の講演で、次のように強調しました。 デジタル知能は生物知能を超える:

ヒントン氏は以前、生物の脳は長い進化の過程で洗練された学習アルゴリズムを発達させてきたため、大きな優位性を持っていると信じていた。しかし現在、同氏は、デジタル システムにおける重み共有とバックプロパゲーションの組み合わせは、たとえそのアルゴリズムが自然界に見られるものほど洗練されていなくても、最終的にはより強力になる可能性があると示唆している。

将来の世代は、人間との本当の関係を築くのが上手になるはずです。ほとんどの仕事はすでに完全に自動化されているため、感情的知性やソフトスキルがより重要になります。将来、お子様の EQ は IQ よりもはるかに重要になります。適者生存の精神になるでしょう。

AI時代の子どものオンライン安全：それは集団的責任

将来の世代の安全は、政府や大手テクノロジー企業だけの悩みの種であってはなりません。倫理的で安全な AI は、親から教育機関、法執行機関、意思決定機関まで、すべての人の責任です。最も重要なのは、AI が若者の心に安全で有益であることを保証するのはテクノロジー コミュニティの責任であるということです。

母親として、私は子供たちともっと健康的な時間を過ごし、もっとコミュニケーションを取り、正直になり、友人のように心配事を共有することを提案します。反応するのではなく、子供が共有したいことに応じてください。テクノロジーの使用を完全に止めることはできません。止めるべきではありません。子供の自由、コントロール、意思決定の感覚を奪うことは、問題を解決するどころか、 問題を悪化させる可能性があります。

私たちはいつでも耳を傾けており、決して批判はしません。安心して私たちと経験や考えを共有してください。さらに、お子さんが現実世界と交流し、自分の選んだ屋外活動に十分な時間を費やせるようにしてください。

私は技術の進歩に反対しているわけではありません。AI は多くのプロセスやタスクの自動化に役立ち、仕事の未来を再定義するでしょう。しかし、AI チャットボットには仕事のタスクを手伝ってほしいのであって、子供の心を混乱させたいのではありません。

テクノロジー業界の女性として、私は AI コミュニティ全体に、より安全で倫理的な AI の開発に積極的に取り組むよう呼びかけます。AI 開発における多様性と包摂性、品質と安全性の保証への重点、一般大衆向けの意識啓発トレーニングの開発は、思い浮かぶ主な行動ポイントの一部です。私たちのコミュニティは、子供たちの安全を確保するために他に何を貢献できるでしょうか? コメントで教えてください。