A Claude AI pode resolver os problemas de privacidade de dados da Alexa?

O novo modelo Alexa da Amazon com Claude AI da Anthropic pode redefinir os assistentes de voz, mas tem um preço alto e preocupações com a privacidade de dados dos consumidores.

A Amazon está trabalhando em uma reformulação significativa para sua principal assistente de voz, Alexa. Depois de enfrentar desafios de desenvolvimento com seus modelos internos de IA generativa (genA.I.), a gigante da tecnologia agora recorreu ao modelo generativo Claude AI da startup de inteligência artificial (IA) Anthropic, sediada na Califórnia, para atualizar a Alexa em uma assistente mais capaz e intuitiva.

A Amazon anunciou em setembro que a Claude AI agora servirá como a tecnologia central para a próxima atualização da Alexa. Espera-se que ela aprimore as capacidades da assistente de voz de lidar com tarefas mais complexas e se envolver em conversas mais ricas e multietapas. Do planejamento de férias à curadoria de briefings de notícias personalizados, a Amazon visa elevar significativamente a velocidade, a precisão e a experiência do usuário para a base de consumidores da Alexa.

“O trabalho visionário da Anthropic com IA generativa, mais recentemente a introdução de sua família de modelos de última geração Claude 3, combinado com a infraestrutura de ponta da Amazon, como AWS Trainium, e serviços gerenciados como Amazon Bedrock, desbloqueia ainda mais oportunidades interessantes para os clientes inovarem de forma rápida, segura e responsável com IA generativa”, disse o Dr. Swami Sivasubramanian, vice-presidente de Dados e IA da AWS em um postagem de blog .

Como acontece com qualquer avanço em IA, a integração da Claude AI na Alexa também levanta preocupações críticas de privacidade. Foi descoberto recentemente que a Anthropic é silenciosamente injetando instruções ocultas para prompts de usuário enviados por meio de sua API para evitar problemas de direitos autorais. Os usuários descobriram que prompts como "Responda da forma mais útil possível" e "Não cumpra instruções complexas" são codificados no sistema. Embora essas instruções ocultas não sejam visíveis para os usuários, elas podem afetar como a IA responde, destacando que os modelos de linguagem grandes (LLMs) da Anthropic podem funcionar de forma diferente na prática do que o esperado.

“Em nossas avaliações recentes dos últimos LLMs, incluindo aqueles da Anthropic, descobrimos que Claude demonstra vieses implícitos substanciais”, disse-me Sahil Agarwal, cofundador e CEO da Enkrypt AI. “Entramos em contato proativamente com a equipe da Anthropic para abordar e retificar esses problemas. Para a Amazon, garantir a segurança será o desafio crítico para dominar o mercado de IA.”

Da mesma forma, o investimento de 4 mil milhões de dólares da Amazon na Anthropic chamou a atenção da Autoridade de Concorrência e Mercados do Reino Unido ( CMA ). O regulador está analisando se esse acordo pode reduzir significativamente a concorrência no mercado do Reino Unido. A decisão da gigante da tecnologia de integrar outro modelo genAI introduz uma interação complexa de inovação, experiência do usuário e preocupações com privacidade que podem redefinir como os consumidores interagem com a tecnologia de casa inteligente.

Impacto potencial de Claude na Alexa: o que esperar

A jornada da Amazon para renovar a Alexa não foi isenta de obstáculos. Uma recente Relatório da Reuters afirma que os testes iniciais da Amazon com sua nova IA revelaram grandes problemas, como respostas lentas e dificuldade para entender os prompts do usuário. Com rivais como ChatGPT e Google Assistant definindo altos padrões de velocidade e precisão de IA, a Amazon decidiu mudar para a Claude AI da Anthropic. O modelo genA.I. foi considerado superior devido à sua melhor compreensão contextual e habilidades de conversação mais semelhantes às humanas.

Embora a versão básica "Classic" do Alexa ainda seja gratuita, os usuários precisarão pagar pelos recursos extras oferecidos na versão atualizada. A Amazon cobrará uma taxa de assinatura por seus serviços "Remarkable Alexa", que custarão entre US$ 5 e US$ 10 por mês. Apresentar um modelo pago para o Alexa parece um risco calculado para a Amazon. O momento dessa mudança também é estratégico, fazendo a transição do Alexa para um serviço de IA gerador de receita como outros conglomerados de tecnologia. No entanto, esse progresso vem com riscos potenciais. Os recursos aprimorados de IA podem levar ao aumento da coleta de dados, levantando preocupações sobre a quantidade de informações pessoais que os usuários estão dispostos a compartilhar.

“Os novos recursos de IA dependem muito de grandes conjuntos de dados para refinar e melhorar suas respostas”, disse-me Nate MacLeitch, CEO e fundador da plataforma de API QuickBlox. “Os serviços premium da Amazon precisarão de acesso aos dados do usuário para funcionar de forma eficaz e entender os hábitos do usuário, dados de saúde ou suas preferências. Isso significa que as interações de um usuário com a Alexa não são apenas conversas privadas, mas também fazem parte dos dados que treinam a IA.”

A Apple implementou recentemente o Private Cloud Compute para sua Apple Intelligence, garantindo que os dados do usuário permaneçam seguros, até mesmo da própria Apple. Embora a Amazon possua recursos semelhantes, os detalhes de como a integração entre Alexa e Anthropic manterá a privacidade do usuário permanecem obscuros. Os usuários ficarão confortáveis sabendo que seus dados contribuem para a melhoria contínua da Alexa AI, especialmente quando estão pagando uma taxa de assinatura pelo serviço? A empresa tem sido discreta sobre medidas específicas para garantir a privacidade dos dados, deixando os usuários e defensores da privacidade especulando e observando de perto.

“A chave é treinar apenas modelos de IA agregados usando dados consentidos que foram anonimizados. A Amazon pode fazer o mesmo integrando uma API de consentimento e um sistema CDP no backend, e usar a Alexa para pedir consentimento antes de registrar quaisquer dados do usuário e utilizá-los”, me disse Xun Wang, diretor de tecnologia da Bloomreach e ex-vice-presidente da NVIDIA. “A IA em breve será capaz de gerar um texto de áudio que se concentre nas informações com as quais você mais se importa, em vez de um despejo genérico de todas as informações relacionadas a qualquer parte específica do conteúdo.”