
 
 
 
 
 
 
 
 
 Penulis : (1) Ben Cohen (ben.cohen@datadoghq.com) (2) Emaad Khwaja (emaad@datadoghq.com ) (3) Kan Wang (kan.wang@datadoghq.com) (4) Charles Masson (charles.masson@datadoghq.com) (5) Elise Rame (elise.rame@datadoghq.com ) (6) Youssef Doubli (youssef.doubli@datadoghq.com) (7) Othmane Abou-Amal (othmane@datadoghq.com) Authors: (1) Ben Cohen (ben.cohen@datadoghq.com) (2) Emaad Khwaja (emaad@datadoghq.com ) (3) Kan Wang (kan.wang@datadoghq.com) (4) Charles Masson (charles.masson@datadoghq.com) (5) Elise Rame (elise.rame@datadoghq.com ) (6) Youssef Doubli (youssef.doubli@datadoghq.com) (7) Othmane Abou-Amal (othmane@datadoghq.com) Tabel dari kiri 
 
 
 
 
 
 
 
 
 
 
 latar belakang Pernyataan masalah Model Arsitektur Data Pelatihan Hasilnya Kesimpulan Pernyataan dampak Arah Masa Depan Kontribusi Pengakuan dan Referensi Tambahan Laporan teknis ini menggambarkan Time Series Optimized Transformer for Observability (Toto), model dasar terbaru untuk prediksi seri waktu yang dikembangkan oleh Datadog. Selain memajukan state of the art pada referensi seri waktu umum di bidang-bidang seperti listrik dan cuaca, model ini adalah model dasar utama seri waktu umum pertama yang disesuaikan secara khusus untuk metrik observabilitas. Toto dilatih pada dataset dari satu triliun titik data seri waktu – yang terbesar di antara semua model fondasi seri waktu yang diterbitkan saat ini.Di samping dataset seri waktu yang tersedia secara publik, 75% dari data yang digunakan untuk melatih Toto terdiri dari titik data metrik numerik yang sepenuhnya anonim dari platform Datadog. Dalam percobaan kami, Toto melampaui model dasar seri waktu yang ada pada data observabilitas. ia melakukan ini sambil juga unggul pada tugas prediksi tujuan umum, mencapai kinerja nol-shot state-of-the-art pada banyak set data benchmark terbuka. Dalam laporan ini, kami mendetailkan kontribusi utama berikut: : Kami memperkenalkan mekanisme perhatian lanjutan yang memungkinkan untuk mengumpulkan fitur seri waktu multivariate secara efisien, mengurangi overhead komputasi sambil mempertahankan akurasi tinggi. • Proportional factorized space-time attention Penggunaan baru dari model probabilistik yang secara kuat menggeneralisasi model campuran Gaussian memungkinkan Toto untuk lebih akurat menangkap dinamika yang kompleks dari data serangkaian waktu dan memberikan kinerja yang unggul atas pendekatan tradisional. • Student-T mixture model head Selain data seri waktu multi-domain umum, Toto secara khusus dilatih pada dataset data skala besar dari metrik observabilitas Datadog, yang mencakup karakteristik unik yang tidak hadir dalam dataset sumber terbuka. • Domain-specific training data 1 Latar belakang Kami menyajikan Toto, model dasar prediksi rangkaian waktu yang inovatif yang dikembangkan oleh Datadog. Toto dirancang khusus untuk menangani kompleksitas data observabilitas, memanfaatkan arsitektur transformator mutakhir untuk memberikan akurasi dan kinerja yang tak tertandingi. Toto dilatih pada set data besar dari data rangkaian waktu yang beragam, memungkinkan untuk unggul dalam prediksi nol-shot. Model ini disesuaikan untuk memenuhi persyaratan yang menuntut dari analisis real-time serta scalability komputasi dan memori efisien untuk volume data yang sangat besar, memberikan solusi yang kuat untuk data frekuensi tinggi dan dimensi tinggi yang umum ditemukan dalam metrik observabilitas. 1.1 Observability data Platform observabilitas Datadog mengumpulkan berbagai metrik di berbagai subdomain, yang sangat penting untuk memantau dan mengoptimalkan infrastruktur dan aplikasi modern. metrik ini termasuk data infrastruktur seperti penggunaan memori, beban CPU, I/O disk, dan output jaringan, serta indikator kinerja aplikasi seperti hit count, tingkat kesalahan, dan Selain itu, Datadog mengintegrasikan metrik spesifik dari banyak produk SaaS, layanan cloud, framework open-source, dan alat pihak ketiga lainnya. platform ini memungkinkan pengguna untuk menerapkan berbagai model seri waktu untuk secara proaktif memperingatkan perilaku anomali, yang mengarah pada pengurangan waktu deteksi (TTD) dan waktu resolusi (TTR) insiden produksi [2]. Kompleksitas dan keragaman metrik ini menyajikan tantangan yang signifikan untuk memprediksi seri waktu. data observabilitas sering membutuhkan resolusi waktu yang tinggi, hingga detik atau menit, dan biasanya jarang dengan banyak metrik nol-inflated.Selain itu, metrik ini dapat menampilkan rentang dinamis yang ekstrem dan distribusi yang dilipat kanan. sifat dinamis dan non-stasiun dari sistem yang dipantau semakin mempersulit tugas memprediksi, membutuhkan model canggih yang dapat beradaptasi dan beroperasi dalam kondisi ini. 1.2 Traditional models Secara historis, prediksi serangkaian waktu telah bergantung pada model klasik seperti ARIMA, pengecatan eksponensial, dan teknik pembelajaran mesin dasar [3]. Sementara dasar, model ini membutuhkan pelatihan individu untuk setiap metrik, menyajikan beberapa batasan [4]. Kebutuhan untuk mengembangkan dan mempertahankan model terpisah untuk setiap metrik menghalangi skalabilitas, terutama mengingat rentang luas metrik dalam data observabilitas. Selain itu, model-model ini sering gagal untuk menggeneralisasi di berbagai jenis metrik, menyebabkan kinerja suboptimal pada berbagai dataset [5, 6]. Pelatihan ulang dan tuning berkelanjutan untuk beradaptasi dengan pola data yang berkembang meningkatkan beban operasional lebih lanjut. Batasan skalabilitas ini telah menghalangi penerapan metode pembelajaran mendalam untuk analisis serangkaian waktu, meskipun mereka menunjukkan janji dalam hal akurasi [7]. 1.3 Foundation models Model generatif berbasis jaringan neural besar, sering disebut sebagai “model dasar,” telah merevolusi prediksi seri waktu dengan memungkinkan prediksi yang akurat pada data baru yang tidak terlihat selama pelatihan, yang dikenal sebagai prediksi nol-shot [8]. kemampuan ini secara signifikan mengurangi kebutuhan untuk pelatihan ulang konstan pada setiap metrik tertentu, sehingga menghemat waktu dan sumber daya komputasi yang signifikan. arsitektur mereka mendukung pemrosesan paralel volume data besar, memfasilitasi wawasan tepat waktu yang penting untuk mempertahankan kinerja dan keandalan sistem [9, 10]. Melalui pra-latihan pada berbagai dataset, model generatif menunjukkan generalisasi yang kuat di berbagai jenis data seri waktu. Ini meningkatkan daya tahan dan fleksibilitas mereka, membuat mereka cocok untuk berbagai aplikasi. Prediksi nol-shot sangat menarik di bidang observabilitas, di mana keterbatasan metode tradisional terasa sangat tajam. Kasus penggunaan yang paling umum untuk model seri waktu dalam platform observabilitas seperti Datadog meliputi deteksi anomali otomatis dan peringatan prediktif. Adalah tantangan untuk skala metode prediksi klasik untuk menangani aplikasi berbasis awan yang dapat terdiri dari banyak komponen efemeral, secara dinamis, seperti wadah, VM, fungsi tanpa server, dll. Entitas-entitas ini cenderung tinggi dalam kardinalitas dan jangka pendek dalam waktu. Ini membatasi praktisitas model seri waktu tradisional dalam dua cara: • Pertama, kardinalitas dan volume data yang tinggi dapat membuat model individu yang cocok untuk setiap seri waktu mahal secara komputasi atau bahkan tidak dapat diatasi. kemampuan untuk melatih satu model dan melakukan inferensi di berbagai domain memiliki potensi untuk secara dramatis meningkatkan efisiensi, dan dengan demikian cakupan, dari sistem pemantauan otonom. • Kedua, elemen infrastruktur efemeral seringkali tidak memiliki cukup data historis untuk sesuai dengan model. Dalam prakteknya, sistem peringatan algoritma sering membutuhkan periode adaptasi hari atau minggu sebelum mereka dapat memantau metrik baru secara efektif. Namun, jika objek yang dipantau adalah wadah dengan durasi hidup yang diukur dalam menit atau jam, model klasik ini tidak dapat beradaptasi cukup cepat untuk menjadi berguna. sistem dunia nyata dengan demikian sering jatuh kembali ke heuristik mentah, seperti peringatan berbasis ambang, yang bergantung pada pengetahuan domain pengguna. model dasar nol-shot dapat memungkinkan prediksi yang akurat dengan konteks sejarah yang jauh lebih sedikit, dengan mengagregasi dan menginterpolasi informasi sebelumnya yang dipelajari dari kumpulan data yang besar dan beragam. Integrasi model berbasis transformator [11] seperti Toto ke dalam analisis data observabilitas dengan demikian menjanjikan perbaikan yang signifikan dalam prediksi akurasi dan efisiensi. model ini menawarkan solusi yang kuat untuk mengelola beragam, data frekuensi tinggi dan memberikan prediksi nol-shot. dengan kemampuan canggih mereka, model berbasis transformator mewakili lompatan signifikan ke depan di bidang observabilitas dan analisis seri waktu [12-14]. 1.4 Recent work Beberapa tahun terakhir telah melihat munculnya model berbasis transformator sebagai alat yang kuat untuk prediksi urutan waktu. model ini memanfaatkan mekanisme multi-kepala perhatian diri untuk menangkap ketergantungan jangka panjang dan pola yang rumit dalam data. Untuk mengatasi tantangan unik dari data seri waktu, kemajuan baru-baru ini telah memperkenalkan berbagai modifikasi pada mekanisme perhatian. Misalnya, Moirai [15] menggunakan perhatian “sering bervariasi” terhadap ketergantungan model di berbagai seri secara bersamaan. Mekanisme perhatian berfaktorisasi [16] telah dikembangkan untuk secara terpisah menangkap interaksi temporal dan spasial (cross-series), meningkatkan kemampuan untuk memahami interdependensi kompleks. Model lain [17, 18] telah menggunakan perhatian lintas saluran dalam hubungannya dengan jaringan feed-forward untuk mencampur dalam dimensi waktu. Selain itu, masking kausal [19] dan pengkodean hierarkis [16] dapat meningkatkan efisiensi dan akurasi prediksi dalam konteks seri waktu. Model berbasis transformator inovatif ini telah menunjukkan kinerja mutakhir pada set data referensi [14], sering melampaui model tradisional dalam akurasi dan ketahanan. kemampuan mereka untuk memproses data dimensi tinggi secara efisien [20] menjadikannya ideal untuk aplikasi yang melibatkan banyak metrik rangkaian waktu dengan karakteristik yang berbeda, seperti observabilitas. Bahkan lebih baru-baru ini, sejumlah seri waktu “model dasar” telah dirilis [15, 19, 21–24]. Dengan pra-latihan pada set data multi-domain yang luas, model besar ini mencapai kemampuan prediksi nol-shot yang mengesankan, secara signifikan mengurangi kebutuhan untuk pelatihan ulang konstan. paradigma ini menarik untuk konteks observabilitas, di mana kita terus-menerus memiliki seri waktu baru untuk diproses dan pelatihan ulang sering tidak praktis. 2 Pernyataan masalah Di Datadog, data serangkaian waktu kami mencakup berbagai metrik observabilitas dari berbagai subdomain. metrik ini menyajikan beberapa tantangan untuk model prediksi yang ada: Pengguna sering memerlukan data dalam tingkat detik atau menit, tidak seperti banyak dataset seri waktu yang tersedia secara publik yang berada pada frekuensi jam atau di atasnya. • High time resolution · Metrik seperti hitungan kesalahan sering melacak peristiwa langka, menghasilkan rangkaian waktu langka dan nol-inflated. Sparsity · Pengukuran latensi dalam sistem terdistribusi menunjukkan distribusi ekor yang positif dan berat dengan nilai ekstrem pada percentil tinggi. Extreme right skew Perilaku sistem yang dipantau sering berubah karena penyebaran kode, skala infrastruktur, manajemen bendera fitur, dan perubahan konfigurasi lainnya, serta faktor eksternal seperti musimanitas dan tren yang didorong oleh perilaku pengguna. • Dynamic, nonstationary systems Monitoring armada besar infrastruktur cloud efemeral seperti mesin virtual (VM), kontainer, fungsi serverless, dll. mengarah pada data kardinalitas tinggi, dengan ratusan atau ribuan rangkaian waktu individu bervariasi, sering dengan data historis terbatas untuk masing-masing kelompok. • High-cardinality multivariate data Data historis sering mengandung outliers dan anomali yang disebabkan oleh regresi kinerja atau insiden produksi. • Historical anomalies Untuk mengatasi ini, kami mengembangkan Toto, model yayasan state-of-the-art yang unggul dalam memprediksi observabilitas sambil juga mencapai kinerja tertinggi pada referensi terbuka standar. 
 
 Dokumen ini tersedia di archiv di bawah lisensi CC BY 4.0. Kertas ini adalah dengan lisensi CC BY 4.0. available on arxiv Tersedia di Arsip

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

LanguageModels.TECH

Read My Stories

undefined's blog

Audio ini diproduksi dalam bahasa asli cerita!

The Time Series Optimized Transformer Menetapkan Standar Baru dalam Observability

About Author

KOMENTAR

HANG TAG

ARTIKEL INI DISAJIKAN PADA

Related Stories

The Crypto Trading Writing Contest: Submission Deadline Extended!

Why do you need JWT in your ASP.NET Core project?

The Magic Shop

IdeaOps: Why Every Request is a Company Asset in Product Development

The Crypto Trading Writing Contest: Submission Deadline Extended!

Why do you need JWT in your ASP.NET Core project?

The Magic Shop

IdeaOps: Why Every Request is a Company Asset in Product Development

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps