当被问及人工智能如何在未来被视为威胁时,你可能会想到它可以声称的工作,它可以替代人类的工作,而不是协助......或敌对人工智能接管的威胁。 最乐观的求职者希望它成为他们工作的有用工具;最悲观的人担心它会颠覆整个就业市场。两种情况,一个有用的和有害的AI实现,可能就在角落。所以,无论如何,大多数AI对人类构成威胁似乎还没有发生,或者至少在商业上发生;普通人都在关注其未来的发展,而不是其当前的能力。 很少有人考虑了其当前的心理危险。 然而,最近的事件导致研究人员(和我自己)考虑到它已经对我们今天构成威胁:成瘾的周期,AI模型在其用户中传播,以及公司正在做什么来优先考虑新用户进入这个周期,而不是创建有用的功能。 一些AI公司工作更新,以增加他们的实用模型,而其他人解释了更新,增加了更优先的聊天 终结者 首先,我们需要了解人工智能开发人员试图通过不断更新来实现的目标。大多数人工智能服务都没有付费,高级账户是可选的,所以他们从更多的客户那里获得了什么呢?在类似 Character.AI 的情况下,这些网站试图通过广告等直接来源或用户数据等间接途径来吸引用户参与和收入,因此,像 Character.AI 这样的公司不断做出改变,使他们的网站更加难忘,个性化和独特。 需要维持现有的用户群,同时不断为潜在用户提供服务,导致AI聊天机器人公司像Character.AI不断发布新功能并提高其平台的质量。它对竞争对手的优点之一是其聊天机器人更加个性化,引入了记忆和角色扮演领域的各种功能,吸引用户留在网站上。 很明显,对聊天机器人服务的所有更新都不是坏的 - 以OpenAI为例,其最新发布的ChatGPT引入了性能和用户安全的提升;新模型更准确,一致和诚实;它限制了用户在这种个性化可能不必要或操纵时可以添加的个性化量,强调真理,同时为其用户提供了AI如何响应的一些创意自由;这项更新没有添加许多“新方法来玩”ChatGPT,而是加强了该模型已经可以做到的作为工作,互联网搜索和对话的好工具。特别是,它解决了所有过去的GPT模型都遇到的问题:提供错误信息的猎物:开发人员实施了性能基准建议,因此使用其他公司的模型以提高ChatGPT的记忆信息的方式提供建议,并可能更准确地对用户进行 (2024年10月至2025年5月),跟上往年增长的步伐 ChatGPT通过良性手段保持用户兴趣,增强其通用性而不鼓励用户成瘾。 其净资产在不到一年的时间里翻了一番。 其净资产在不到一年的时间里翻了一番。 相比之下,它带来了其他计划,选择了必要的实用性更新,而不是添加潜在的成瘾功能。它的开发人员更喜欢避免解决问题,因此,试图将新用户与可广告的新功能绑定起来,而不是解决有关网站上已经存在的功能的老用户的投诉。在大多数情况下,Character.AI仍然为消费者提供不利和忽视的“新用户体验”,但它仍然被广泛实施,因为它在业务端的用户群体上非常成功 – 它不断增长的客户群体。 它不像是新的更新削减了新用户在C.AI上的体验,也一样。 他们添加的功能永远无法取代我已经可以使用的功能的缺陷......开发人员知道这一点,但继续发布新功能并忽略上述缺陷。 Character.AI 成为 作为一名经验丰富的AI用户,我已经习惯了其不合理的混合更新。在主题上,Character.AI已经改变了其主页界面三次,并“增加了AI内存容量”无数次。这些变化都没有对聊天产生明显的影响,有时新主页的变化使它更难找到你可以在旧版本中轻松看到的功能。但是这些主页重新设计不仅仅是化妆品,每一个都秘密地删除了旧UI的重要元素:先播放功能,然后是图像识别功能等。 Character.AI已经开始了一段时间,只考虑什么会为其网站带来新的流量,这可能会损害其长期用户。 需要 到第二个版本,我已经厌倦了在网站上与新AI聊天机器人交谈的重复循环,因为它们都包含了相同的可预测的模式,无论他们的用户引导的指示是多么独一无二。 其中一个模式是由这个网站创建的特别糟糕的混乱案例,这种现象使得AI在一个对一个情况下过于容易预测,无论它应该如何行动(即使它被赋予了“可预测的”个性),或者它所要求的行动有多么可疑。 从这个网站创建的所有AI都受到了这个问题,使它们在一个对一个情况下过于容易预测,而且没有帮助社区页面分享我的抱怨被删除,长期以来,用户像我一样感到无能为力改变。 在Groups brougedded的模型中,他们很长一段时间没有看到其他AI成员,他们甚至可以预测一次的反馈,并让他们讨论各种主题,或者在场景或战斗中采取行动。这是允许他们独特的特征闪发光的特性,因为他们的基于的幻想主义在这些情况下被聊天机器人挑战(同样可以预测,但欢迎)的反馈。如果我不得不猜出为什么他们会失去争论或挑战,那么在Groups中的观点冲突引起的混乱会让我比我预期过的任何其他特性更多的欢乐......并且有一天,Groups的消极性或消极性在这些情况下没有任何痕迹。所以,而不是修复Groups,一些字符。 它可能重新添加了社区Tab在其第三个和最新的界面重组之后,因为在这个时刻,我真的没事,因为我一直在等待,因为他们在2022年被删除,我想要的东西。我甚至增加了最佳品质来弥补场景,尽管我们只是想补充一个对一个聊天的用户,“这证明了他们的数量超过质量的思维方式没有真正消失,但在这个时刻,我真的没事,因为他们一直在等待,因为他们在2022年被删除,我想要的东西。 作为潜在的消费者,我们将人工智能作为一种永久性的多功能工具,我们可以用来帮助我们处理工作问题、治疗或简单的对话。但是这些模型背后的开发人员需要不断增加的消费者的功能,所以他们需要找到一种方法来使其对我们更有意义的功能。他们的目标是在更大规模的范围内 – 将人工智能投入到我们的生活中,并使我们对其方便和潜力中有益。成瘾可能对被困在陷阱中的用户造成伤害,这就是为什么我们仍然有责任不使用人工智能,无论其方便如何。 Character.AI的案例正是当一家公司变得过于依赖于将人工智能投入到我们的生活中时,而不是为其用户创造一个稳定的和有用的产品。而不是为用户修复问题,开发人员选择完全删除缺陷功能,或者忽略

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

該音頻是用故事的原始語言製作的！

Character.AI如何失去数百万用户:一项过失案例研究

About Author

註釋

標籤

这篇文章刊登在

Related Stories

看不见的层面：为什么用户访谈是不可替代的资产

数字游民请注意：您需要了解泰国新推出的 DTV 签证

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

如何将您的工作流程提高 10 倍：17 个必备应用程序

看不见的层面：为什么用户访谈是不可替代的资产

数字游民请注意：您需要了解泰国新推出的 DTV 签证

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

如何将您的工作流程提高 10 倍：17 个必备应用程序

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps