Сможет ли Claude AI решить проблемы конфиденциальности данных Alexa?

Новая модель Alexa от Amazon с искусственным интеллектом Claude от Anthropic может вывести голосовые помощники на новый уровень, но она имеет высокую цену и вызывает опасения у потребителей по поводу конфиденциальности данных.

Amazon работает над существенной модернизацией своего флагманского голосового помощника Alexa. Столкнувшись с проблемами разработки внутренних моделей генеративного ИИ (genA.I.), технологический гигант теперь обратился к генеративной модели искусственного интеллекта (ИИ) Claude AI от стартапа Anthropic из Калифорнии, чтобы модернизировать Alexa, сделав ее более способной и интуитивно понятной.

Amazon объявила в сентябре, что Claude AI теперь будет служить основной технологией для предстоящего обновления Alexa. Ожидается, что это расширит возможности голосового помощника по выполнению более сложных задач и участию в более насыщенных многошаговых беседах. От планирования отпусков до курирования персонализированных новостных брифингов Amazon стремится значительно повысить скорость, точность и пользовательский опыт для потребительской базы Alexa.

«Проницательная работа Anthropic с генеративным ИИ, в частности, недавнее представление новейшего семейства моделей Claude 3, в сочетании с лучшей в своем классе инфраструктурой Amazon, такой как AWS Trainium, и управляемыми сервисами, такими как Amazon Bedrock, открывает перед клиентами захватывающие возможности для быстрого, безопасного и ответственного внедрения инноваций с помощью генеративного ИИ», — сказал в своем выступлении д-р Свами Сивасубраманьян, вице-президент по данным и ИИ в AWS. запись в блоге .

Как и любое достижение в области ИИ, интеграция Claude AI в Alexa также поднимает критические вопросы конфиденциальности. Недавно было обнаружено, что Anthropic тихо внедрение скрытых инструкций на запросы пользователей, отправленные через его API, чтобы предотвратить проблемы с авторскими правами. Пользователи обнаружили, что запросы типа «Отвечайте как можно более услужливо» и «Не выполняйте сложные инструкции» жестко закодированы в системе. Хотя эти скрытые инструкции не видны пользователям, они могут влиять на то, как реагирует ИИ, подчеркивая, что большие языковые модели Anthropic (LLM) могут работать на практике иначе, чем ожидалось.

«В наших последних оценках последних LLM, включая тех, что от Anthropic, мы обнаружили, что Клод демонстрирует существенные неявные предубеждения», — сказал мне Сахил Агарвал, соучредитель и генеральный директор Enkrypt AI. «Мы активно обращались к команде Anthropic, чтобы решить и исправить эти проблемы. Для Amazon обеспечение безопасности и защищенности станет важнейшей задачей в доминировании на рынке ИИ».

Аналогичным образом, инвестиции Amazon в размере 4 миллиардов долларов в Anthropic привлекли внимание Управления по конкуренции и рынкам Великобритании ( СМА ). Регулятор изучает, может ли эта сделка значительно снизить конкуренцию на рынке Великобритании. Решение технологического гиганта интегрировать еще одну модель genAI представляет собой сложное взаимодействие инноваций, пользовательского опыта и проблем конфиденциальности, которые могут переопределить то, как потребители взаимодействуют с технологией умного дома.

Потенциальное влияние Клода на Alexa: чего ожидать

Путь Amazon к обновлению Alexa не обошелся без препятствий. Недавний Рейтер сообщает утверждает, что первоначальные тесты Amazon с новым ИИ выявили серьезные проблемы, такие как медленные ответы и проблемы с пониманием пользовательских подсказок. Поскольку такие конкуренты, как ChatGPT и Google Assistant, устанавливают высокие стандарты скорости и точности ИИ, Amazon решила перейти на Claude AI от Anthropic. Модель genA.I. оказалась лучшей из-за лучшего понимания контекста и более человеческих навыков общения.

Хотя базовая «классическая» версия Alexa по-прежнему будет бесплатной, пользователям придется платить за дополнительные функции, предлагаемые в обновленной версии. Amazon будет взимать абонентскую плату за свои услуги «Remarkable Alexa», которая будет стоить от 5 до 10 долларов в месяц. Введение платной модели для Alexa кажется рассчитанным риском для Amazon. Время этого шага также является стратегическим, переводя Alexa в режим приносящего доход сервиса ИИ, как и другие технологические конгломераты. Тем не менее, этот прогресс сопряжен с потенциальными рисками. Расширенные возможности ИИ могут привести к увеличению сбора данных, вызывая опасения относительно того, каким объемом личной информации пользователи готовы делиться.

«Новые возможности ИИ в значительной степени зависят от больших наборов данных для уточнения и улучшения их ответов», — сказал мне Нейт МакЛитч, генеральный директор и основатель API-платформы QuickBlox. «Премиальным сервисам Amazon потребуется доступ к данным пользователя для эффективной работы и понимания привычек пользователя, данных о здоровье или его предпочтений. Это означает, что взаимодействие пользователя с Alexa — это не просто личные разговоры, но и часть данных, которые обучают ИИ».

Apple недавно внедрила Private Cloud Compute для своего Apple Intelligence, гарантируя, что пользовательские данные остаются в безопасности, даже от самой Apple. Хотя Amazon обладает схожими возможностями, особенности того, как интеграция между Alexa и Anthropic будет поддерживать конфиденциальность пользователей, остаются неясными. Будут ли пользователи чувствовать себя комфортно, зная, что их данные способствуют постоянному совершенствованию Alexa AI, особенно когда они платят абонентскую плату за услугу? Компания хранит молчание о конкретных мерах по обеспечению конфиденциальности данных, оставляя пользователей и защитников конфиденциальности строить догадки и внимательно следить.

«Ключ в том, чтобы обучать только агрегированные модели ИИ, используя согласованные данные, которые были анонимизированы. Amazon может сделать то же самое, интегрировав API согласия и систему CDP в бэкэнд и используя Alexa для запроса согласия перед записью любых данных пользователя и их использованием», — сказал мне Сюнь Ван, главный технический директор Bloomreach и бывший вице-президент NVIDIA. «ИИ скоро сможет генерировать аудиотекст, который будет сосредоточен на информации, которая вас больше всего волнует, а не на общей свалке всей информации, связанной с любым конкретным фрагментом контента».