Arize AI는 신속한 변수 모니터링을 통해 AI 관찰 가능성을 선도합니다.

AI 관찰 가능성 및 LLM(대형 언어 모델) 평가 플랫폼인 Arize AI는 이번 주 Google Cloud Next '24 무대에서 즉각적인 변수 모니터링 및 분석을 시작했습니다.

데뷔는 절실한 시기에 이루어졌다. 점점 더 AI가 주도하는 세계에서 경쟁력을 유지하기 위해 기업은 기반 모델을 배포하기 위해 경쟁하고 있지만, 환각과 응답의 정확성은 프로덕션 배포에 여전히 장벽으로 남아 있습니다.

Arize의 새로운 프롬프트 변수 모니터링은 AI 엔지니어와 기계 학습 팀이 프롬프트 변수에서 버그를 자동으로 감지하고 문제가 있는 데이터 세트를 찾아내는 데 도움이 됩니다. LLM 기반 애플리케이션에 사용되는 프롬프트를 검토하고 개선함으로써 팀은 생성된 출력이 정확성, 관련성, 정확성과 같은 측정 기준에 대한 기대치와 일치하는지 확인할 수 있습니다. 오늘 출시되는 추가 컨텍스트 창 관리 도구를 사용하면 추가 조사가 가능합니다.

Arize AI의 CEO이자 공동 창립자인 Jason Lopatecki는 "오늘날 LLM 시스템 디버깅은 너무 고통스럽습니다."라고 말합니다. "AI 시스템이 수많은 프롬프트에 어떻게 반응하는지 분석하고 모델 동작에 대한 더 깊은 통찰력을 제공함으로써 Arize의 새로운 프롬프트 변수 분석 도구는 AI 엔지니어가 지속적인 개선을 알리는 훈련 및 피드백 루프를 통해 생산에서 보다 성공적인 결과를 얻을 수 있도록 도울 것을 약속합니다."

아리즈란 무엇인가요?

Arize AI는 팀이 프로덕션에서 보다 성공적인 AI를 제공하고 유지하는 데 도움이 되는 AI 관찰 가능성 및 LLM 평가 플랫폼입니다. Arize의 자동화된 모니터링 및 관찰 플랫폼을 통해 팀은 문제가 발생할 때 신속하게 감지하고, 발생한 원인을 해결하고, RAG LLM 과 같은 생성적 사용 사례와 기존 ML 모두에서 전반적인 성능을 향상시킬 수 있습니다. Arize는 캘리포니아주 버클리에 본사를 두고 있습니다.