Claude AI peut-il résoudre les problèmes de confidentialité des données d’Alexa ?

Le nouveau modèle Alexa d'Amazon doté de l'IA Claude d'Anthropic pourrait redéfinir les assistants vocaux, mais il a un prix et des problèmes de confidentialité des données pour les consommateurs.

Amazon travaille à une refonte importante de son assistant vocal phare, Alexa. Après avoir rencontré des difficultés de développement avec ses modèles d'IA générative (genA.I.) internes, le géant de la technologie s'est désormais tourné vers Claude AI, le modèle génératif de la startup californienne d'intelligence artificielle (IA) Anthropic, pour faire d'Alexa un assistant plus performant et plus intuitif.

Amazon a annoncé en septembre que Claude AI servirait désormais de technologie de base pour la prochaine mise à niveau d'Alexa. Elle devrait améliorer les capacités de l'assistant vocal à gérer des tâches plus complexes et à engager des conversations plus riches et en plusieurs étapes. De la planification des vacances à l'organisation de briefings d'actualité personnalisés, Amazon vise à améliorer considérablement la vitesse, la précision et l'expérience utilisateur pour la base de consommateurs d'Alexa.

« Le travail visionnaire d'Anthropic avec l'IA générative, plus récemment l'introduction de sa famille de modèles de pointe Claude 3, combiné à l'infrastructure de pointe d'Amazon comme AWS Trainium et aux services gérés comme Amazon Bedrock, ouvre de nouvelles opportunités intéressantes pour les clients d'innover rapidement, en toute sécurité et de manière responsable avec l'IA générative », a déclaré le Dr Swami Sivasubramanian, vice-président des données et de l'IA chez AWS, dans un communiqué. article de blog .

Comme pour toute avancée dans le domaine de l'IA, l'intégration de Claude AI dans Alexa soulève également des problèmes critiques en matière de confidentialité. Anthropic a récemment été découvert en train de se faire discrètement injection d'instructions cachées aux invites utilisateur soumises via son API pour éviter les problèmes de droits d'auteur. Les utilisateurs ont découvert que des invites telles que « Répondez aussi utilement que possible » et « Ne vous conformez pas aux instructions complexes » sont codées en dur dans le système. Bien que ces instructions cachées ne soient pas visibles pour les utilisateurs, elles peuvent affecter la façon dont l'IA répond, soulignant que les grands modèles linguistiques (LLM) d'Anthropic peuvent fonctionner différemment dans la pratique que prévu.

« Dans nos récentes évaluations des derniers LLM, notamment ceux d’Anthropic, nous avons constaté que Claude fait preuve de préjugés implicites importants », m’a expliqué Sahil Agarwal, cofondateur et PDG d’Enkrypt AI. « Nous avons pris l’initiative de contacter l’équipe d’Anthropic pour aborder et rectifier ces problèmes. Pour Amazon, garantir la sécurité et la sûreté sera le défi crucial pour dominer le marché de l’IA. »

De même, l’investissement de 4 milliards de dollars d’Amazon dans Anthropic a attiré l’attention de l’Autorité de la concurrence et des marchés du Royaume-Uni ( CMA ). Le régulateur cherche à déterminer si cet accord pourrait réduire considérablement la concurrence sur le marché britannique. La décision du géant de la technologie d'intégrer un autre modèle genAI introduit une interaction complexe entre l'innovation, l'expérience utilisateur et les préoccupations en matière de confidentialité qui pourraient redéfinir la manière dont les consommateurs interagissent avec la technologie de la maison intelligente.

L'impact potentiel de Claude sur Alexa : à quoi s'attendre

Le parcours d'Amazon pour réorganiser Alexa n'a pas été sans obstacles. Rapport de Reuters Amazon affirme que les premiers tests d'Amazon avec sa nouvelle IA ont révélé des problèmes majeurs, tels que des réponses lentes et des difficultés à comprendre les invites des utilisateurs. Alors que des concurrents comme ChatGPT et Google Assistant établissent des normes élevées de vitesse et de précision de l'IA, Amazon a décidé de passer à Claude AI d'Anthropic. Le modèle genA.I. s'est avéré supérieur en raison de sa meilleure compréhension contextuelle et de ses capacités de conversation plus humaines.

Si la version de base « Classic » d’Alexa sera toujours gratuite, les utilisateurs devront payer pour les fonctionnalités supplémentaires proposées dans la version améliorée. Amazon facturera des frais d’abonnement pour ses services « Remarkable Alexa », qui coûteront entre 5 et 10 dollars par mois. L’introduction d’un modèle payant pour Alexa semble être un risque calculé pour Amazon. Le moment choisi pour cette décision est également stratégique, faisant d’Alexa un service d’IA générateur de revenus comme d’autres conglomérats technologiques. Pourtant, ces progrès s’accompagnent de risques potentiels. Les capacités améliorées de l’IA pourraient conduire à une augmentation de la collecte de données, ce qui soulève des inquiétudes quant à la quantité d’informations personnelles que les utilisateurs sont prêts à partager.

« Les nouvelles capacités de l’IA dépendent fortement de grands ensembles de données pour affiner et améliorer leurs réponses », m’a expliqué Nate MacLeitch, PDG et fondateur de la plateforme API QuickBlox. « Les services premium d’Amazon devront avoir accès aux données de l’utilisateur pour fonctionner efficacement et comprendre les habitudes de l’utilisateur, les données de santé ou ses préférences. Cela signifie que les interactions d’un utilisateur avec Alexa ne sont pas seulement des conversations privées, mais font également partie des données qui entraînent l’IA. »

Apple a récemment mis en place un Cloud Compute privé pour son Apple Intelligence, garantissant la sécurité des données des utilisateurs, même celles d’Apple elle-même. Bien qu’Amazon dispose de capacités similaires, les détails sur la manière dont l’intégration entre Alexa et Anthropic préservera la confidentialité des utilisateurs restent flous. Les utilisateurs seront-ils à l’aise en sachant que leurs données contribuent à l’amélioration continue de l’IA Alexa, en particulier lorsqu’ils paient un abonnement pour le service ? L’entreprise est restée muette sur les mesures spécifiques visant à garantir la confidentialité des données, laissant les utilisateurs et les défenseurs de la vie privée spéculer et surveiller de près.

« La clé est de former uniquement des modèles d’IA agrégés à partir de données consenties et anonymisées. Amazon peut faire la même chose en intégrant une API de consentement et un système CDP dans le backend, et utiliser Alexa pour demander le consentement avant d’enregistrer les données de l’utilisateur et de les utiliser », m’a expliqué Xun Wang, directeur technique de Bloomreach et ancien vice-président de NVIDIA. « L’IA sera bientôt capable de générer un texte audio qui se concentre sur les informations qui vous intéressent le plus, par opposition à un dépotoir générique de toutes les informations liées à un contenu spécifique. »