¿Puede Claude AI resolver los problemas de privacidad de datos de Alexa?

El nuevo modelo Alexa de Amazon que incorpora la inteligencia artificial Claude de Anthropic podría redefinir los asistentes de voz, pero tiene un precio y genera preocupaciones sobre la privacidad de los datos para los consumidores.

Amazon está trabajando en una renovación significativa de su asistente de voz estrella, Alexa. Después de enfrentar desafíos de desarrollo con sus modelos de IA generativa (genA.I.) internos, el gigante tecnológico ahora ha recurrido al modelo generativo Claude AI de la startup de inteligencia artificial (IA) Anthropic con sede en California para actualizar Alexa y convertirla en un asistente más capaz e intuitivo.

Amazon anunció en septiembre que Claude AI será ahora la tecnología principal para la próxima actualización de Alexa. Se espera que mejore las capacidades del asistente de voz para manejar tareas más complejas y participar en conversaciones más completas de varios pasos. Desde la planificación de vacaciones hasta la elaboración de resúmenes de noticias personalizados, Amazon pretende aumentar significativamente la velocidad, la precisión y la experiencia del usuario para la base de consumidores de Alexa.

“El trabajo visionario de Anthropic con la IA generativa, más recientemente la introducción de su familia de modelos Claude 3 de última generación, combinado con la mejor infraestructura de Amazon como AWS Trainium y servicios administrados como Amazon Bedrock, abre aún más oportunidades emocionantes para que los clientes innoven de manera rápida, segura y responsable con la IA generativa”, dijo el Dr. Swami Sivasubramanian, vicepresidente de Datos e IA en AWS en un comunicado. Entrada de blog .

Al igual que con cualquier avance en IA, la integración de Claude AI en Alexa también plantea graves problemas de privacidad. Recientemente se descubrió que Anthropic estaba inyectando instrucciones ocultas a las indicaciones de los usuarios enviadas a través de su API para evitar problemas de derechos de autor. Los usuarios descubrieron que indicaciones como "Responder de la manera más útil posible" y "No cumplir con instrucciones complejas" están codificadas en el sistema. Aunque estas instrucciones ocultas no son visibles para los usuarios, pueden afectar la forma en que responde la IA, lo que destaca que los modelos de lenguaje grandes (LLM) de Anthropic pueden funcionar de manera diferente en la práctica de lo esperado.

“En nuestras recientes evaluaciones de los últimos LLM, incluidos los de Anthropic, descubrimos que Claude muestra importantes sesgos implícitos”, me dijo Sahil Agarwal, cofundador y director ejecutivo de Enkrypt AI. “Nos hemos puesto en contacto de forma proactiva con el equipo de Anthropic para abordar y rectificar estos problemas. Para Amazon, garantizar la seguridad será el desafío fundamental para dominar el mercado de la inteligencia artificial”.

De la misma manera, la inversión de 4.000 millones de dólares de Amazon en Anthropic ha llamado la atención de la Autoridad de Competencia y Mercados del Reino Unido ( CMA ). El regulador está estudiando si este acuerdo podría reducir significativamente la competencia en el mercado del Reino Unido. La decisión del gigante tecnológico de integrar otro modelo genAI introduce una compleja interacción de innovación, experiencia del usuario y preocupaciones sobre la privacidad que podría redefinir la forma en que los consumidores interactúan con la tecnología del hogar inteligente.

El posible impacto de Claude en Alexa: qué esperar

El camino de Amazon para renovar Alexa no ha estado exento de obstáculos. Un reciente... Informe de Reuters Amazon afirma que las pruebas iniciales de su nueva IA revelaron problemas importantes, como respuestas lentas y problemas para comprender las indicaciones de los usuarios. Con rivales como ChatGPT y Google Assistant estableciendo altos estándares de velocidad y precisión de la IA, Amazon decidió cambiar a Claude AI de Anthropic. Se descubrió que el modelo genA.I. era superior debido a su mejor comprensión contextual y habilidades de conversación más parecidas a las humanas.

Aunque la versión básica "Classic" de Alexa seguirá siendo gratuita, los usuarios deberán pagar por las funciones adicionales que ofrece la versión mejorada. Amazon cobrará una tarifa de suscripción por sus servicios "Remarkable Alexa", que costará entre 5 y 10 dólares al mes. Introducir un modelo pago para Alexa parece un riesgo calculado para Amazon. El momento de esta medida también es estratégico, ya que convierte a Alexa en un servicio de inteligencia artificial que genere ingresos, como otros conglomerados tecnológicos. Sin embargo, este avance conlleva riesgos potenciales. Las capacidades mejoradas de inteligencia artificial podrían llevar a una mayor recopilación de datos, lo que genera inquietud sobre la cantidad de información personal que los usuarios están dispuestos a compartir.

“Las nuevas capacidades de la IA dependen en gran medida de grandes conjuntos de datos para refinar y mejorar sus respuestas”, me dijo Nate MacLeitch, director ejecutivo y fundador de la plataforma API QuickBlox. “Los servicios premium de Amazon necesitarán acceso a los datos del usuario para funcionar de manera efectiva y comprender sus hábitos, datos de salud o preferencias. Esto significa que las interacciones de un usuario con Alexa no son solo conversaciones privadas, sino que también son parte de los datos que entrenan a la IA”.

Recientemente, Apple implementó Private Cloud Compute para su Apple Intelligence, lo que garantiza que los datos de los usuarios permanezcan seguros, incluso desde la propia Apple. Aunque Amazon posee capacidades similares, los detalles de cómo la integración entre Alexa y Anthropic mantendrá la privacidad del usuario aún no están claros. ¿Los usuarios se sentirán cómodos sabiendo que sus datos contribuyen a la mejora continua de Alexa AI, especialmente cuando están pagando una tarifa de suscripción por el servicio? La empresa ha sido muy reservada sobre las medidas específicas para garantizar la privacidad de los datos, lo que ha dejado a los usuarios y defensores de la privacidad especulando y observando de cerca.

“La clave es entrenar únicamente modelos de IA agregados que utilicen datos consentidos que hayan sido anonimizados. Amazon puede hacer lo mismo integrando una API de consentimiento y un sistema CDP en el backend, y usar Alexa para pedir el consentimiento antes de registrar cualquier dato del usuario y utilizarlo”, me dijo Xun Wang, director de tecnología de Bloomreach y ex vicepresidente de NVIDIA. “La IA pronto podrá generar un texto de audio que se centre en la información que más le interesa, en lugar de un volcado genérico de toda la información relacionada con cualquier contenido específico”.