Yapay zeka gözlemlenebilirliği ve büyük dil modeli (LLM) değerlendirme platformu Arize AI , bu hafta Google Cloud Next '24'te anlık değişken izleme ve analizini sahnede başlattı.
İlk çıkış büyük ihtiyaç duyulan bir zamanda geliyor. İşletmeler giderek yapay zekanın yönlendirdiği bir dünyada rekabetçi kalabilmek için temel modelleri dağıtmak için yarışsa da halüsinasyonlar ve yanıtların doğruluğu, üretim dağıtımlarının önünde engel olmaya devam ediyor.
Arize'nin yeni bilgi istemi değişkeni izleme özelliği, yapay zeka mühendislerinin ve makine öğrenimi ekiplerinin bilgi istemi değişkenlerindeki hataları otomatik olarak tespit etmesine ve sorunlu veri kümelerini tespit etmesine yardımcı oluyor. Ekipler, LLM destekli uygulamalarda kullanılan istemlerin iç gözlemi ve iyileştirilmesi yoluyla, oluşturulan çıktıların doğruluk, alaka düzeyi ve doğruluk gibi ölçümlerle ilgili beklentilerle uyumlu olmasını sağlayabilir. Bugün kullanıma sunulan ek bağlam penceresi yönetim araçları da daha fazla inceleme yapılmasına olanak sağlıyor.
Arize AI CEO'su ve Kurucu Ortağı Jason Lopatecki, "LLM sistemlerinde hata ayıklamak bugün çok zahmetli" diyor. Arize'nin yeni bilgi istemi değişken analizi araçları, yapay zeka sistemlerinin sayısız istemlere nasıl yanıt verdiğini analiz ederek ve model davranışına ilişkin daha derin içgörüler sunarak, devam eden iyileştirmeleri bilgilendirmek için eğitim ve geri bildirim döngüleriyle yapay zeka mühendislerinin üretimde daha başarılı sonuçlar elde etmesine yardımcı olmayı vaat ediyor."
Arize AI, ekiplerin üretimde daha başarılı yapay zeka sunmasına ve sürdürmesine yardımcı olan bir yapay zeka gözlemlenebilirliği ve LLM değerlendirme platformudur. Arize'nin otomatik izleme ve gözlemlenebilirlik platformu, ekiplerin sorunları ortaya çıktıklarında hızla tespit etmesine, bunların neden oluştuğunu gidermesine ve hem geleneksel makine öğrenimi hem de RAG LLM gibi üretken kullanım senaryolarında genel performansı iyileştirmesine olanak tanır. Arize'nin genel merkezi Berkeley, CA'dadır.