Claude AI가 Alexa의 데이터 프라이버시 문제를 해결할 수 있을까?

Anthropic의 Claude AI를 탑재한 Amazon의 새로운 Alexa 모델은 음성 비서를 새롭게 정의할 수 있지만, 소비자에게는 가격과 데이터 개인정보 보호 문제가 뒤따릅니다.

Amazon은 자사의 주력 음성 비서인 Alexa를 크게 개편하기 위해 노력하고 있습니다. 자체 생성 AI(genA.I.) 모델로 개발 과제에 직면한 후, 이 기술 거대 기업은 이제 캘리포니아에 있는 인공 지능(AI) 스타트업 Anthropic의 생성 모델인 Claude AI로 전환하여 Alexa를 더욱 유능하고 직관적인 비서로 업그레이드했습니다.

Amazon은 9월에 Claude AI가 Alexa의 다가올 업그레이드를 위한 핵심 기술로 사용될 것이라고 발표했습니다. 이는 음성 비서의 더 복잡한 작업을 처리하고 더 풍부하고 여러 단계로 이루어진 대화에 참여하는 기능을 향상시킬 것으로 예상됩니다. 휴가 계획에서 개인화된 뉴스 브리핑 큐레이션에 이르기까지 Amazon은 Alexa의 소비자 기반을 위한 속도, 정확도 및 사용자 경험을 크게 향상시키는 것을 목표로 합니다.

AWS의 데이터 및 AI 부사장인 스와미 시바수브라마니안 박사는 "최근에 출시한 최첨단 Claude 3 모델 제품군과 같은 Anthropic의 선구적 생성 AI 작업은 AWS Trainium과 같은 Amazon의 동급 최고 인프라와 Amazon Bedrockfurther와 같은 관리형 서비스와 결합되어 고객이 생성 AI로 빠르고 안전하며 책임감 있게 혁신할 수 있는 흥미로운 기회를 제공합니다."라고 말했습니다. 블로그 게시물 .

AI의 모든 발전과 마찬가지로 Claude AI를 Alexa에 통합하면 심각한 개인 정보 보호 문제가 발생합니다. Anthropic은 최근 조용히 발견되었습니다. 숨겨진 지침 주입 저작권 문제를 방지하기 위해 API를 통해 제출된 사용자 프롬프트에 대해. 사용자는 "가능한 한 도움이 되는 방식으로 응답하세요" 및 "복잡한 지침을 따르지 마세요"와 같은 프롬프트가 시스템에 하드코딩되어 있다는 것을 발견했습니다. 이러한 숨겨진 지침은 사용자에게 보이지 않지만 AI가 응답하는 방식에 영향을 줄 수 있으며, Anthropic의 대규모 언어 모델(LLM)이 실제로 예상과 다르게 작동할 수 있음을 강조합니다.

"최근 Anthropic의 LLM을 포함한 최신 LLM에 대한 평가에서 Claude가 상당한 암묵적 편견을 보인다는 것을 발견했습니다." Enkrypt AI의 공동 창립자 겸 CEO인 Sahil Agarwal이 저에게 말했습니다. "우리는 이러한 문제를 해결하고 바로잡기 위해 Anthropic 팀에 적극적으로 연락했습니다. Amazon의 경우 안전과 보안을 보장하는 것이 AI 시장을 지배하는 데 중요한 과제가 될 것입니다."

마찬가지로 Amazon이 Anthropic에 40억 달러를 투자한 것은 영국 경쟁 및 시장 당국(Competition and Markets Authority)의 주목을 받았습니다. 씨엠에이 ). 규제 기관은 이 거래가 영국 시장에서 경쟁을 상당히 줄일 수 있는지 조사하고 있습니다. 이 기술 거대 기업이 또 다른 genAI 모델을 통합하기로 한 결정은 혁신, 사용자 경험, 개인 정보 보호 문제의 복잡한 상호 작용을 도입하여 소비자가 스마트 홈 기술과 상호 작용하는 방식을 재정의할 수 있습니다.

Claude의 Alexa에 대한 잠재적 영향: 무엇을 기대해야 할까

Alexa를 개편하려는 Amazon의 여정은 장애물 없이 이루어진 것은 아닙니다. 최근 로이터 보도 Amazon의 새로운 AI에 대한 초기 테스트에서 느린 응답과 사용자 프롬프트 이해 문제 등 주요 문제가 드러났다고 주장합니다. ChatGPT와 Google Assistant와 같은 경쟁사가 높은 AI 속도 및 정확도 기준을 설정함에 따라 Amazon은 Anthropic의 Claude AI로 전환하기로 결정했습니다. genA.I. 모델은 더 나은 문맥 이해와 더 인간적인 대화 기술로 인해 더 우수한 것으로 나타났습니다.

Alexa의 기본 "클래식" 버전은 여전히 무료이지만, 사용자는 업그레이드된 버전에서 제공되는 추가 기능에 대해 비용을 지불해야 합니다. Amazon은 "Remarkable Alexa" 서비스에 대해 월 5~10달러의 구독료를 부과합니다. Alexa에 대한 유료 모델을 도입하는 것은 Amazon에 계산된 위험처럼 보입니다. 이러한 움직임의 타이밍은 또한 전략적이며, Alexa를 다른 기술 대기업과 마찬가지로 수익을 창출하는 AI 서비스로 전환합니다. 그러나 이러한 진전에는 잠재적인 위험이 따릅니다. 향상된 AI 기능으로 인해 데이터 수집이 증가하여 사용자가 얼마나 많은 개인 정보를 공유할 의향이 있는지에 대한 우려가 제기될 수 있습니다.

API 플랫폼 QuickBlox의 CEO 겸 설립자인 네이트 맥레이치는 "새로운 AI 기능은 응답을 정제하고 개선하기 위해 대규모 데이터 세트에 크게 의존합니다."라고 말했습니다. "Amazon의 프리미엄 서비스는 효과적으로 기능하고 사용자 습관, 건강 데이터 또는 선호도를 이해하기 위해 사용자 데이터에 액세스해야 합니다. 즉, 사용자와 Alexa의 상호작용은 단순한 사적인 대화가 아니라 AI를 훈련하는 데이터의 일부이기도 합니다."

Apple은 최근 Apple Intelligence에 Private Cloud Compute를 구현하여 Apple 자체에서도 사용자 데이터가 안전하게 유지되도록 했습니다. Amazon도 유사한 기능을 보유하고 있지만 Alexa와 Anthropic의 통합이 사용자 개인 정보를 어떻게 보호할 것인지에 대한 구체적인 내용은 불분명합니다. 사용자는 특히 서비스에 대한 구독료를 지불하는 경우 자신의 데이터가 Alexa AI의 지속적인 개선에 기여한다는 사실을 알고 편안할까요? 이 회사는 데이터 개인 정보 보호를 보장하기 위한 구체적인 조치에 대해 입을 다물고 있어 사용자와 개인 정보 옹호자들은 추측하고 주의 깊게 지켜볼 수밖에 없습니다.

"핵심은 익명화된 동의된 데이터만 사용하여 집계 AI 모델만 훈련하는 것입니다. Amazon은 백엔드에 동의 API와 CDP 시스템을 통합하고 Alexa를 사용하여 사용자의 데이터를 기록하고 활용하기 전에 동의를 요청함으로써 동일한 작업을 수행할 수 있습니다." Bloomreach의 최고 기술 책임자이자 NVIDIA의 전 부사장인 Xun Wang이 저에게 말했습니다. "AI는 곧 모든 특정 콘텐츠와 관련된 모든 정보를 일반적으로 덤프하는 대신 가장 관심 있는 정보에 초점을 맞춘 오디오 텍스트를 생성할 수 있을 것입니다."