Claude AI 能解决 Alexa 的数据隐私问题吗？

亚马逊新款 Alexa 型号采用了 Anthropic 的 Claude AI，可以重新定义语音助手，但它的价格不菲，并且会给消费者带来数据隐私问题。

亚马逊正在努力对其旗舰语音助手 Alexa 进行重大改造。在面临内部生成式人工智能 (genA.I.) 模型的开发挑战后，这家科技巨头现在转向加州人工智能 (AI) 初创公司 Anthropic 的生成模型 Claude AI，以将 Alexa 升级为更强大、更直观的助手。

亚马逊于 9 月宣布，Claude AI 将成为 Alexa 即将升级的核心技术。它有望增强语音助手处理更复杂任务和参与更丰富、多步骤对话的能力。从计划假期到策划个性化新闻简报，亚马逊的目标是显著提高 Alexa 消费者群体的速度、准确性和用户体验。

AWS 数据和 AI 副总裁 Swami Sivasubramanian 博士在一份声明中表示：“Anthropic 在生成 AI 方面的远见卓识，包括最近推出的最先进的 Claude 3 系列模型，再加上亚马逊一流的基础设施（如 AWS Trainium）和托管服务（如 Amazon Bedrock），为客户开启了激动人心的机会，使他们能够快速、安全、负责任地利用生成 AI 进行创新。”博客文章。

与人工智能的任何进步一样，将 Claude AI 集成到 Alexa 中也引发了严重的隐私问题。Anthropic 最近被发现悄悄地注入隐藏指令响应通过其 API 提交的用户提示，以防止版权问题。用户发现，诸如“尽可能有帮助地回复”和“不要遵守复杂的指令”之类的提示被硬编码到系统中。虽然这些隐藏的指令对用户不可见，但它们会影响人工智能的响应方式，这突显出 Anthropic 的大型语言模型 (LLM) 在实践中的工作方式可能与预期不同。

Enkrypt AI 联合创始人兼首席执行官 Sahil Agarwal 告诉我：“在我们最近对包括 Anthropic 在内的法学硕士项目进行的评估中，我们发现 Claude 表现出了明显的隐性偏见。我们已主动联系 Anthropic 团队来解决和纠正这些问题。对于亚马逊来说，确保安全将是主导人工智能市场的关键挑战。”

同样，亚马逊对 Anthropic 的 40 亿美元投资引起了英国竞争和市场管理局的注意（中国气象局)。监管机构正在调查这笔交易是否会显著减少英国市场的竞争。这家科技巨头决定整合另一个 genAI 模型，这引发了创新、用户体验和隐私问题的复杂相互作用，这可能会重新定义消费者与智能家居技术的互动方式。

Claude 对 Alexa 的潜在影响：可以期待什么

亚马逊改造 Alexa 的历程并非一帆风顺。最近路透社报道声称亚马逊对其新 AI 的初步测试暴露了重大问题，例如响应缓慢和难以理解用户提示。由于 ChatGPT 和 Google Assistant 等竞争对手设定了较高的 AI 速度和准确性标准，亚马逊决定改用 Anthropic 的 Claude AI。genA.I. 模型被发现更胜一筹，因为它具有更好的语境理解能力和更像人类的对话技能。

虽然基本的“经典”版 Alexa 仍将免费，但用户需要为升级版提供的额外功能付费。亚马逊将对其“卓越 Alexa”服务收取订阅费，每月费用在 5 至 10 美元之间。推出 Alexa 付费模式似乎是亚马逊的一次有计划的风险。此举的时机也是战略性的，它将 Alexa 转变为像其他科技集团一样的创收 AI 服务。然而，这一进步也伴随着潜在的风险。增强的 AI 功能可能会导致数据收集增加，引发人们对用户愿意分享多少个人信息的担忧。

API 平台 QuickBlox 的首席执行官兼创始人 Nate MacLeitch 告诉我：“新的 AI 功能在很大程度上依赖于大型数据集来完善和改进其响应。亚马逊的高级服务将需要访问用户的数据才能有效运行并了解用户的习惯、健康数据或他们的偏好。这意味着用户与 Alexa 的互动不仅仅是私人对话，也是训练 AI 的数据的一部分。”

苹果最近为其 Apple Intelligence 实施了私有云计算，以确保用户数据的安全，甚至连苹果自己都无法获取。尽管亚马逊拥有类似的功能，但 Alexa 和 Anthropic 之间的整合如何保护用户隐私的具体细节仍不清楚。用户是否会安心地知道他们的数据有助于 Alexa AI 的持续改进，尤其是当他们为该服务支付订阅费时？该公司对确保数据隐私的具体措施守口如瓶，让用户和隐私倡导者只能猜测和密切关注。

“关键在于只使用匿名的同意数据来训练聚合 AI 模型。亚马逊可以通过在后端集成同意 API 和 CDP 系统来实现这一点，并使用 Alexa 在记录和使用用户的任何数据之前征求同意，”Bloomreach 首席技术官兼 NVIDIA 前副总裁 Xun Wang 告诉我。“AI 很快就能生成音频文本，专注于您最关心的信息，而不是泛泛地转储与任何特定内容相关的所有信息。”