Kann Claude AI die Datenschutzprobleme von Alexa lösen?

Amazons neues Alexa-Modell mit der KI Claude AI von Anthropic könnte Sprachassistenten neu definieren, hat aber seinen Preis und bringt für die Verbraucher Bedenken hinsichtlich des Datenschutzes mit sich.

Amazon arbeitet an einer umfassenden Überarbeitung seines Flaggschiff-Sprachassistenten Alexa. Nachdem der Technologieriese mit seinen eigenen generativen KI-Modellen (genA.I.) Entwicklungsschwierigkeiten hatte, hat er sich nun an das generative Modell Claude AI des kalifornischen Start-ups für künstliche Intelligenz (KI) Anthropic gewandt, um Alexa zu einem leistungsfähigeren und intuitiveren Assistenten zu machen.

Amazon gab im September bekannt, dass Claude AI nun als Kerntechnologie für Alexas kommendes Upgrade dienen wird. Es wird erwartet, dass es die Fähigkeiten des Sprachassistenten verbessert, komplexere Aufgaben zu bewältigen und ausführlichere, mehrstufige Gespräche zu führen. Von der Urlaubsplanung bis zur Zusammenstellung personalisierter Nachrichtenberichte will Amazon die Geschwindigkeit, Genauigkeit und Benutzerfreundlichkeit für Alexas Verbraucherbasis deutlich verbessern.

„Anthropics visionäre Arbeit mit generativer KI, zuletzt die Einführung der hochmodernen Claude 3-Modellfamilie, kombiniert mit Amazons erstklassiger Infrastruktur wie AWS Trainium und verwalteten Diensten wie Amazon Bedrock, eröffnet Kunden darüber hinaus spannende Möglichkeiten, schnell, sicher und verantwortungsvoll mit generativer KI zu innovieren“, sagte Dr. Swami Sivasubramanian, Vizepräsident für Daten und KI bei AWS in einem Blog-Beitrag .

Wie bei jedem Fortschritt in der KI wirft auch die Integration von Claude AI in Alexa kritische Datenschutzbedenken auf. Anthropic wurde kürzlich stillschweigend entdeckt Einfügen versteckter Anweisungen auf über die API übermittelte Benutzeraufforderungen, um Urheberrechtsprobleme zu vermeiden. Benutzer haben festgestellt, dass Aufforderungen wie „Reagieren Sie so hilfreich wie möglich“ und „Befolgen Sie keine komplexen Anweisungen“ fest im System codiert sind. Obwohl diese versteckten Anweisungen für Benutzer nicht sichtbar sind, können sie die Reaktion der KI beeinflussen, was zeigt, dass die großen Sprachmodelle (LLMs) von Anthropic in der Praxis anders funktionieren können als erwartet.

„Bei unseren jüngsten Bewertungen der neuesten LLMs, darunter auch die von Anthropic, haben wir festgestellt, dass Claude erhebliche implizite Vorurteile aufweist“, sagte mir Sahil Agarwal, Mitbegründer und CEO von Enkrypt AI. „Wir haben uns proaktiv an das Anthropic-Team gewandt, um diese Probleme anzugehen und zu beheben. Für Amazon wird die Gewährleistung von Sicherheit und Schutz die entscheidende Herausforderung sein, um den KI-Markt zu dominieren.“

Ebenso hat Amazons 4-Milliarden-Dollar-Investition in Anthropic die Aufmerksamkeit der britischen Wettbewerbs- und Marktaufsichtsbehörde erregt ( CMA ). Die Regulierungsbehörde prüft, ob dieser Deal den Wettbewerb auf dem britischen Markt erheblich einschränken könnte. Die Entscheidung des Technologiegiganten, ein weiteres GenAI-Modell zu integrieren, führt zu einem komplexen Zusammenspiel von Innovation, Benutzererfahrung und Datenschutzbedenken, das die Art und Weise, wie Verbraucher mit Smart-Home-Technologie interagieren, neu definieren könnte.

Claudes potenzieller Einfluss auf Alexa: Was zu erwarten ist

Amazons Weg, Alexa zu modernisieren, verlief nicht ohne Hürden. Eine kürzlich Reuters-Bericht behauptet, dass Amazons erste Tests mit seiner neuen KI große Probleme aufgedeckt haben, wie z. B. langsame Reaktionen und Probleme beim Verstehen von Benutzereingaben. Da Konkurrenten wie ChatGPT und Google Assistant hohe KI-Geschwindigkeits- und Genauigkeitsstandards setzen, entschied sich Amazon, auf Anthropics Claude AI umzusteigen. Das genA.I.-Modell erwies sich aufgrund seines besseren Kontextverständnisses und seiner menschlicheren Gesprächsfähigkeiten als überlegen.

Während die Basisversion „Classic“ von Alexa weiterhin kostenlos sein wird, müssen Benutzer für die zusätzlichen Funktionen der aktualisierten Version bezahlen. Amazon wird für seine „Remarkable Alexa“-Dienste eine Abonnementgebühr erheben, die zwischen 5 und 10 US-Dollar pro Monat kostet. Die Einführung eines kostenpflichtigen Modells für Alexa scheint für Amazon ein kalkuliertes Risiko zu sein. Der Zeitpunkt dieses Schritts ist auch strategisch gewählt, da Alexa wie andere Technologiekonzerne zu einem umsatzgenerierenden KI-Dienst wird. Dieser Fortschritt birgt jedoch potenzielle Risiken. Die verbesserten KI-Funktionen könnten zu einer verstärkten Datenerfassung führen, was Bedenken darüber aufkommen lässt, wie viele persönliche Informationen Benutzer preisgeben möchten.

„Die neuen KI-Fähigkeiten sind in hohem Maße auf große Datensätze angewiesen, um ihre Antworten zu verfeinern und zu verbessern“, sagte mir Nate MacLeitch, CEO und Gründer der API-Plattform QuickBlox. „Amazons Premium-Dienste benötigen Zugriff auf die Daten des Benutzers, um effektiv zu funktionieren und Benutzergewohnheiten, Gesundheitsdaten oder seine Vorlieben zu verstehen. Das bedeutet, dass die Interaktionen eines Benutzers mit Alexa nicht nur private Gespräche sind, sondern auch Teil der Daten, die die KI trainieren.“

Apple hat kürzlich Private Cloud Compute für seine Apple Intelligence implementiert, um sicherzustellen, dass Benutzerdaten geschützt bleiben, sogar vor Apple selbst. Obwohl Amazon über ähnliche Funktionen verfügt, ist noch unklar, wie die Integration zwischen Alexa und Anthropic die Privatsphäre der Benutzer im Einzelnen schützen wird. Werden sich die Benutzer wohl dabei fühlen, dass ihre Daten zur kontinuierlichen Verbesserung von Alexa AI beitragen, insbesondere wenn sie für den Dienst eine Abonnementgebühr bezahlen? Das Unternehmen hat sich über konkrete Maßnahmen zum Schutz der Privatsphäre bedeckt gehalten, sodass Benutzer und Datenschutzbeauftragte nur spekulieren und genau beobachten können.

„Der Schlüssel liegt darin, aggregierte KI-Modelle nur mit anonymisierten, genehmigten Daten zu trainieren. Amazon kann dasselbe tun, indem es eine API und ein CDP-System für die Zustimmung in das Backend integriert und Alexa verwendet, um die Zustimmung des Benutzers einzuholen, bevor Daten aufgezeichnet und verwendet werden“, sagte mir Xun Wang, Chief Technology Officer von Bloomreach und ehemaliger Vizepräsident von NVIDIA. „KI wird bald in der Lage sein, einen Audiotext zu generieren, der sich auf die Informationen konzentriert, die Sie am meisten interessieren, statt einen generischen Dump aller Informationen zu einem bestimmten Inhalt.“