Arize AI ouvre la voie en matière d'observabilité de l'IA avec une surveillance rapide des variables

Arize AI , une plateforme d'observabilité de l'IA et d'évaluation de grands modèles de langage (LLM), a lancé cette semaine une surveillance et une analyse rapides des variables sur scène lors de Google Cloud Next '24.

Les débuts surviennent à un moment de grand besoin. Même si les entreprises s’efforcent de déployer des modèles de base pour rester compétitives dans un monde de plus en plus axé sur l’IA, les hallucinations et la précision des réponses restent des obstacles aux déploiements en production.

La nouvelle surveillance des variables d'invite d'Arize aide les ingénieurs en IA et les équipes d'apprentissage automatique à détecter automatiquement les bogues dans les variables d'invite et à identifier les ensembles de données problématiques. Grâce à l'introspection et à l'affinement des invites utilisées dans les applications basées sur LLM, les équipes peuvent garantir que les résultats générés correspondent aux attentes concernant des mesures telles que l'exactitude, la pertinence et l'exactitude. Des outils supplémentaires de gestion de fenêtres contextuelles, également lancés aujourd'hui, permettent un examen plus approfondi.

« Le débogage des systèmes LLM est bien trop pénible aujourd'hui », déclare Jason Lopatecki, PDG et co-fondateur d'Arize AI. « En analysant la façon dont les systèmes d'IA répondent à une myriade d'invites et en offrant des informations plus approfondies sur le comportement des modèles, les nouveaux outils d'analyse des variables d'invite d'Arize promettent d'aider les ingénieurs en IA à obtenir de meilleurs résultats en production – avec des boucles de formation et de rétroaction pour éclairer le raffinement continu.

Qu’est-ce qu’Arize ?

Arize AI est une plateforme d'observabilité de l'IA et d'évaluation LLM qui aide les équipes à fournir et à maintenir une IA plus performante en production. La plate-forme automatisée de surveillance et d'observabilité d'Arize permet aux équipes de détecter rapidement les problèmes lorsqu'ils surviennent, de déterminer pourquoi ils se sont produits et d'améliorer les performances globales dans les cas d'utilisation traditionnels du ML et génératifs comme RAG LLM . Arize a son siège social à Berkeley, en Californie.