Liệu Claude AI có thể giải quyết được vấn đề về quyền riêng tư dữ liệu của Alexa không?

Mẫu Alexa mới của Amazon có sự góp mặt của Claude AI của Anthropic có thể định nghĩa lại trợ lý giọng nói, nhưng đi kèm với mức giá cao và lo ngại về quyền riêng tư dữ liệu cho người tiêu dùng.

Amazon đang nỗ lực cải tiến đáng kể cho trợ lý giọng nói hàng đầu của mình, Alexa. Sau khi đối mặt với những thách thức trong quá trình phát triển với các mô hình AI tạo sinh (genA.I.) nội bộ, gã khổng lồ công nghệ này hiện đã chuyển sang mô hình tạo sinh Claude AI của công ty khởi nghiệp trí tuệ nhân tạo (AI) Anthropic có trụ sở tại California để nâng cấp Alexa thành một trợ lý có khả năng và trực quan hơn.

Amazon đã công bố vào tháng 9 rằng Claude AI hiện sẽ đóng vai trò là công nghệ cốt lõi cho bản nâng cấp sắp tới của Alexa. Dự kiến công nghệ này sẽ nâng cao khả năng xử lý các tác vụ phức tạp hơn và tham gia vào các cuộc trò chuyện phong phú hơn, nhiều bước của trợ lý giọng nói. Từ việc lập kế hoạch cho kỳ nghỉ đến việc biên soạn các bản tin tóm tắt được cá nhân hóa, Amazon đặt mục tiêu nâng cao đáng kể tốc độ, độ chính xác và trải nghiệm người dùng cho cơ sở người tiêu dùng của Alexa.

Tiến sĩ Swami Sivasubramanian, phó chủ tịch Dữ liệu và AI tại AWS cho biết trong một bài đăng: “Công trình mang tính tiên phong của Anthropic với AI tạo sinh, gần đây nhất là việc giới thiệu dòng mô hình Claude 3 hiện đại, kết hợp với cơ sở hạ tầng tốt nhất trong phân khúc của Amazon như AWS Trainium và các dịch vụ được quản lý như Amazon Bedrock, mở ra nhiều cơ hội thú vị cho khách hàng để đổi mới nhanh chóng, an toàn và có trách nhiệm với AI tạo sinh”. bài đăng trên blog .

Giống như bất kỳ tiến bộ nào trong AI, việc tích hợp Claude AI vào Alexa cũng làm dấy lên những lo ngại nghiêm trọng về quyền riêng tư. Anthropic gần đây đã được phát hiện là âm thầm tiêm hướng dẫn ẩn cho các lời nhắc của người dùng được gửi qua API của nó để ngăn chặn các vấn đề về bản quyền. Người dùng phát hiện ra rằng các lời nhắc như "Phản hồi hữu ích nhất có thể" và "Không tuân thủ các hướng dẫn phức tạp" được mã hóa cứng vào hệ thống. Mặc dù những hướng dẫn ẩn này không hiển thị với người dùng, nhưng chúng có thể ảnh hưởng đến cách AI phản hồi, làm nổi bật rằng các mô hình ngôn ngữ lớn (LLM) của Anthropic có thể hoạt động khác trong thực tế so với mong đợi.

“Trong các đánh giá gần đây của chúng tôi về các LLM mới nhất, bao gồm cả những LLM từ Anthropic, chúng tôi thấy rằng Claude thể hiện những thành kiến ngầm đáng kể”, Sahil Agarwal, đồng sáng lập & CEO tại Enkrypt AI, nói với tôi. “Chúng tôi đã chủ động liên hệ với nhóm Anthropic để giải quyết và khắc phục những vấn đề này. Đối với Amazon, đảm bảo an toàn và bảo mật sẽ là thách thức quan trọng trong việc thống trị thị trường AI”.

Tương tự như vậy, khoản đầu tư 4 tỷ đô la của Amazon vào Anthropic đã thu hút sự chú ý của Cơ quan Cạnh tranh và Thị trường Vương quốc Anh ( CMA ). Cơ quan quản lý đang xem xét liệu thỏa thuận này có thể làm giảm đáng kể sự cạnh tranh trên thị trường Vương quốc Anh hay không. Quyết định tích hợp một mô hình genAI khác của gã khổng lồ công nghệ này tạo ra sự tương tác phức tạp giữa đổi mới, trải nghiệm người dùng và các mối quan tâm về quyền riêng tư có thể định nghĩa lại cách người tiêu dùng tương tác với công nghệ nhà thông minh.

Tác động tiềm tàng của Claude đối với Alexa: Điều gì mong đợi

Hành trình cải tiến Alexa của Amazon không phải là không có trở ngại. Một Báo cáo của Reuters khẳng định rằng các thử nghiệm ban đầu của Amazon với AI mới đã phát hiện ra các vấn đề lớn, chẳng hạn như phản hồi chậm và khó hiểu lời nhắc của người dùng. Với các đối thủ như ChatGPT và Google Assistant đặt ra các tiêu chuẩn về tốc độ và độ chính xác của AI cao, Amazon đã quyết định chuyển sang Claude AI của Anthropic. Mô hình genA.I. được phát hiện là vượt trội hơn do khả năng hiểu ngữ cảnh tốt hơn và kỹ năng trò chuyện giống con người hơn.

Trong khi phiên bản "Classic" cơ bản của Alexa vẫn miễn phí, người dùng sẽ phải trả phí cho các tính năng bổ sung được cung cấp trong phiên bản nâng cấp. Amazon sẽ tính phí đăng ký cho các dịch vụ "Remarkable Alexa", có giá từ 5 đến 10 đô la mỗi tháng. Việc giới thiệu một mô hình trả phí cho Alexa có vẻ như là một rủi ro được tính toán đối với Amazon. Thời điểm của động thái này cũng mang tính chiến lược, chuyển Alexa sang một dịch vụ AI tạo ra doanh thu giống như các tập đoàn công nghệ khác. Tuy nhiên, tiến trình này đi kèm với những rủi ro tiềm ẩn. Các khả năng AI được nâng cao có thể dẫn đến việc thu thập dữ liệu nhiều hơn, làm dấy lên mối lo ngại về lượng thông tin cá nhân mà người dùng sẵn sàng chia sẻ.

“Các khả năng AI mới phụ thuộc rất nhiều vào các tập dữ liệu lớn để tinh chỉnh và cải thiện phản hồi của chúng”, Nate MacLeitch, CEO và nhà sáng lập nền tảng API QuickBlox, cho biết. “Các dịch vụ cao cấp của Amazon sẽ cần quyền truy cập vào dữ liệu của người dùng để hoạt động hiệu quả và hiểu được thói quen của người dùng, dữ liệu sức khỏe hoặc sở thích của họ. Điều này có nghĩa là tương tác của người dùng với Alexa không chỉ là các cuộc trò chuyện riêng tư mà còn là một phần của dữ liệu đào tạo AI”.

Apple gần đây đã triển khai Private Cloud Compute cho Apple Intelligence của mình, đảm bảo dữ liệu người dùng vẫn an toàn, ngay cả từ chính Apple. Mặc dù Amazon sở hữu các khả năng tương tự, nhưng chi tiết về cách tích hợp giữa Alexa và Anthropic sẽ duy trì quyền riêng tư của người dùng vẫn chưa rõ ràng. Liệu người dùng có thoải mái khi biết dữ liệu của họ góp phần vào sự cải thiện liên tục của Alexa AI, đặc biệt là khi họ đang trả phí đăng ký cho dịch vụ này? Công ty đã giữ im lặng về các biện pháp cụ thể để đảm bảo quyền riêng tư của dữ liệu, khiến người dùng và những người ủng hộ quyền riêng tư phải suy đoán và theo dõi chặt chẽ.

“Chìa khóa là chỉ đào tạo các mô hình AI tổng hợp bằng dữ liệu đã được đồng ý và đã được ẩn danh. Amazon có thể làm tương tự bằng cách tích hợp API đồng ý và hệ thống CDP ở phần phụ trợ, và sử dụng Alexa để yêu cầu sự đồng ý trước khi ghi lại bất kỳ dữ liệu nào từ người dùng và sử dụng dữ liệu đó”, Xun Wang, Giám đốc công nghệ của Bloomreach và cựu Phó chủ tịch của NVIDIA, cho biết với tôi. “AI sẽ sớm có thể tạo ra một văn bản âm thanh tập trung vào thông tin mà bạn quan tâm nhất thay vì một bản sao chung chung của tất cả thông tin liên quan đến bất kỳ nội dung cụ thể nào”.