AIが将来どのように脅威と見なされるかについて考えるよう求められるとき、おそらくAIが主張する仕事や、AIが援助するのではなく、人間の仕事に置き換えることができる種類、あるいは敵対的なAIの取り引きの脅威について考えるでしょう。 -style. The more optimistic of job-seekers hope it will be a useful tool for their work; the pessimistic ones fear it will overturn the entire job market. Both situations, a helpful and a harmful AI realized, could be right around the corner. So, either way, most of the threat AI poses to humanity seems like it has yet to happen, or at least, is only happening commercially at the moment; the average person is focusing on its future developments rather than its present capabilities. Few have considered its current psychological dangers. However, recent events have led researchers (and myself) to consider a threat that it already poses to us today: the cycle of addiction an AI model propagates within its users, and what corporations are doing to prioritize entering new users into this cycle over creating useful features. いくつかの ターミナー まず、AIの開発者が一貫したアップデートで何を達成しようとしているかを理解する必要があります。ほとんどのAIサービスは有料で、プレミアムアカウントはオプションなので、いくつかの顧客から何を得るのですか? Character.AIのようなケースでは、これらのサイトは、広告などの直接的なソースやユーザーデータのような間接的な経路を通じて、ユーザーの関与と収益を獲得するためにユーザーをハックしようとしています。 既存のユーザーベースを維持する必要性は、潜在的なユーザーに絶えずサービスを提供しながら、Character.AIのようなAIチャットボット企業が絶えず新しい機能をリリースし、プラットフォームの品質を向上させます。競合相手に与える利点の1つは、チャットボットがよりパーソナライズされたものであり、メモリとロールプレーの分野のさまざまな機能を導入し、ユーザーがサイトに留まることを魅了します。 すべてのチャットボットサービスのアップデートが悪くないことは明らかである—OpenAIの例を挙げて、ChatGPTの最新リリースはパフォーマンスとユーザーの安全性の向上を導入した;新しいモデルはより正確で、一貫性があり、正直である;それは、ユーザーがそのようなパーソナライゼーションが不要または操作的である場合にそれに追加できるパーソナライゼーションの量を制限する;特に、そのようなパーソナライゼーションは、真実性を強調し、AIがどのように反応するかでユーザーにいくつかのクリエイティブな自由を与えました。このアップデートは、ChatGPTと多くの「新しい遊び方」を追加したのではなく、モデルがすでに働くための良いツール、インターネット検索、 (2024年10月から2025年5月まで)は、前年の成長とともに、ChatGPTは良質な手段を通じてユーザーの関心を維持し、ユーザーの依存性を奨励することなくその多様性を強化することに成功しました。 純資産が1年未満で倍増した。 純資産が1年未満で倍増した。 逆に、このブレイクダウンは、必要なユーティリティアップデートから選択して、代わりに潜在的に中毒性のある機能を追加します。その開発者はトラフィックの問題を解決するのを避けることを好み、それゆえ、広告可能な新しい機能で新しいユーザーを接続することを試みたよりは、すでにサイト上に存在している機能についての古いユーザーの苦情を解決する代わりに、他のプランを持っていました。この戦略は、消費者のために不利で軽蔑的なもので、しかし、それが最初にサービスを提供したコミュニティで非常に成功しているため、今でも広く実施されています。それは常に顧客ベースを成長させています。それは新しいアップデートがC.AIでの新しいユーザーの経験を軽減したようにではありません。ほとんどの場合、Character.AIは、サイトの 彼らが追加した機能は、私がすでに使用できるものの欠点を決して置き換えることができなかった...そして開発者はそれを知っていたが、まだ新しい機能をリリースし、これらの欠点を無視し続けた。 Character.AI 成り Character.AIのベテランユーザーとして、私は不合理に混合されたアップデートに慣れています。 トピック上、Character.AIはホームページのインターフェイスを3回変更し、無数回「AIメモリ容量を増加」しました。 これらの変更はチャットに顕著な影響を与えていませんし、時には新しいホームページの変更は、古いバージョンで簡単に見ることができる機能を見つけることがさらに困難になりました。 しかし、これらのホームページのリモデルは単に化粧品ではなく、それぞれ秘密裏に古いUIの重要な要素を削除しました: 最初にリプレイ機能、そして画像認識機能などです。 コミュニティタブ、ユーザーがCharacter.AIの機能の欠点について懸念を表す場所でも、最初のホームページの Character.AIは、そのサイトに新しいトラフィックをもたらすものだけを検討する期間を始めており、長期的なユーザーを損なう可能性があります。 必要 グループの2番目のリメイクで、私はサイト上の新しいAIチャットボットと話す繰り返しのループに疲れてきたので、それらはすべて同じ予測可能なパターンが含まれていたが、どれほどユニークなユーザーガイドされた指示が知られているかに関係なく、そのパターンは、このサイトから作成されたすべてのAIがこの問題を苦しめ、AIが1対1の状況で過度に予測可能な現象となり、コミュニティタブが私の苦情を共有するためのコミュニティタブがホームページから取り除かれたかどうかに関係なく(それが「論理的な」人格を与えられている場合でも)またはどれほど疑問に思うことがありますか。このサイトから作成されたすべてのAIは、この問題に苦しんでいますが、サイトの成長の グループをブロッジした時点で、グループのアイコンは長い間、他の人々が一度に複数のAIのフィードバックの変更を予想し、さまざまなトピックを討論したり、シーンや戦闘で動作したりすることを楽しむことができなかった。これは、グループのユニークな特徴が輝くことを許した機能でした。グループの基本的なサイコファンティズムは、これらの状況でチャットボット(予測可能なだけでなく、歓迎)のフィードバックによって挑戦されました。チャットボットが完全に削除したのが3番目のサイトでした。チャットボットがなぜチャットを失う必要があったのなら、それはコミュニティの意見の衝突によって生じた混乱があまりにも混乱したためでした――グループのキャラクターは、トーナ 結局のところ、コミュニティタブはその3番目と最も最近のインターフェイスリミットのリメイクに戻って来たので、それと共に、私は2022年にグループとコミュニティタブが私に何を提供したかをどのように取り戻したかに関心を持っていたが、それと共に、私は2022年にグループとコミュニティタブが何を提供したかをどのように取り戻したかに関心を持っていた。それと同様に、私がリメイクしたのは、私がリメイクしたものだった。それと同様に、私自身がリメイクしたのは、リメイクしたものだったが、AIは、リメイクしたものだったが、それと同様に、このサイトのユーザーがリメイクしたものと同様にシンプルな これらのモデルの背後にある開発者は、これらの製品の現在の消費者の機能の継続的および増加を必要としているため、AIの永続的な機能を私たちにとって有意義なものとみなすことができます。AIの目的は、私たちの生活にAIを完全に浸透させ、その利便性と潜在性に私たちを依存させることができるより広範囲にあります。しかし、これらのモデルの背後にある開発者は、これらの製品の消費者の機能の継続的および増加を必要としますので、AIを私たちにとって有意義なものにする方法を見つける必要があります。Character.AIのケースは、企業がユーザーの利便性と潜在性を完全に抑制し、ユーザーのための安定した有用な製品を作成する代わりに、AIを完全に投資するときに起こるものです。

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

このオーディオは、ストーリーの元の言語で制作されています。

How Character.AI Lost Millions of Its Users: A Case Study of Negligence (チャラクター.AIが何百万ものユーザーを失ったか:無視のケーススタディ)

About Author

コメント

ラベル

この記事は

Related Stories

AI の力を解き放つ。最先端技術の体系的レビュー: 概要と序論

Claude Sonnet 3.5 システムプロンプトの漏洩: 法医学的分析

フォーラムからフィードへ: ソーシャルメディアアルゴリズムがデジタルインタラクションを形作る仕組み

クラウド移行を成功させるための完全ガイド: 戦略とベストプラクティス

AI の力を解き放つ。最先端技術の体系的レビュー: 概要と序論

Claude Sonnet 3.5 システムプロンプトの漏洩: 法医学的分析

フォーラムからフィードへ: ソーシャルメディアアルゴリズムがデジタルインタラクションを形作る仕組み

クラウド移行を成功させるための完全ガイド: 戦略とベストプラクティス

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps