Arize AI ist mit Prompt Variable Monitoring führend in der KI-Beobachtung

Arize AI , eine Plattform zur KI-Beobachtung und Auswertung großer Sprachmodelle (LLM), hat diese Woche auf der Bühne von Google Cloud Next '24 die sofortige Überwachung und Analyse von Variablen vorgestellt.

Das Debüt erfolgt in einer Zeit großer Not. Obwohl Unternehmen sich beeilen, Basismodelle einzusetzen, um in einer zunehmend KI-gesteuerten Welt wettbewerbsfähig zu bleiben, bleiben Halluzinationen und die Genauigkeit der Antworten weiterhin Hindernisse für den Produktionseinsatz.

Arizes neue Überwachung von Prompt-Variablen hilft KI-Ingenieuren und Teams für maschinelles Lernen, Fehler in Prompt-Variablen automatisch zu erkennen und problematische Datensätze zu identifizieren. Durch Introspektion und Verfeinerung der in LLM-gestützten Anwendungen verwendeten Prompts können Teams sicherstellen, dass die generierten Ergebnisse den Erwartungen in Bezug auf Kennzahlen wie Genauigkeit, Relevanz und Richtigkeit entsprechen. Zusätzliche Tools zur Kontextfensterverwaltung, die ebenfalls heute eingeführt werden, ermöglichen eine weitere Prüfung.

„Das Debuggen von LLM-Systemen ist heute viel zu mühsam“, sagt Jason Lopatecki, CEO und Mitbegründer von Arize AI. „Durch die Analyse, wie KI-Systeme auf eine Vielzahl von Eingabeaufforderungen reagieren, und durch die Bereitstellung tieferer Einblicke in das Modellverhalten versprechen die neuen Tools zur Analyse von Eingabeaufforderungsvariablen KI-Ingenieuren zu erfolgreicheren Ergebnissen in der Produktion zu verhelfen – mit Schulungen und Feedbackschleifen zur kontinuierlichen Verbesserung.“

Was ist Arize?

Arize AI ist eine KI-Beobachtungs- und LLM-Evaluierungsplattform, die Teams dabei hilft, erfolgreichere KI in der Produktion bereitzustellen und aufrechtzuerhalten. Die automatisierte Überwachungs- und Beobachtungsplattform von Arize ermöglicht es Teams, Probleme schnell zu erkennen, wenn sie auftreten, ihre Ursache zu ermitteln und die Gesamtleistung sowohl bei traditionellem ML als auch bei generativen Anwendungsfällen wie RAG LLM zu verbessern. Arize hat seinen Hauptsitz in Berkeley, Kalifornien.