Model bahasa besar adalah bagian inti dari produk digital modern. Di puncak gelombang ini adalah perusahaan yang telah membakar lebih dari satu triliun token OpenAI. Tabel, ekstrapolasi dari slide demo hari OpenAI baru-baru ini dan akibatnya mulai beredar di X / Twitter, daftar 30 pelanggan yang secara kolektif mengkonsumsi sejumlah besar panggilan API AI. Di bawah ini adalah pandangan yang lebih mendalam tentang apa yang dilakukan setiap perusahaan, bagaimana mereka mengimplementasikan AI generatif, dan pandangan singkat tentang mengapa dan bagaimana penggunaan token mereka mungkin begitu tinggi. Daftar ini diatur secara alfabetis oleh perusahaan, sedangkan tren gambar di atas diatur secara alfabetis oleh nama terakhir perwakilan perusahaan. Abridge yang Abridge adalah perusahaan AI lingkungan yang berfokus pada dokumentasi perawatan kesehatan. ia merekam percakapan dokter-pasien dan meringkasnya menjadi catatan klinis terstruktur (SOAP) menggunakan pemrosesan bahasa alami lanjutan dan model pembelajaran mesin, menghasilkan ringkasan real-time, item tindakan, dan istilah medis kunci. Dengan ribuan dokter menggunakan Abridge untuk menerjemahkan dan meringkas konsultasi panjang, token count scale dengan cepat. . Hal yang dapat dilakukan di dekat Abridge AI Canva Canva adalah platform komunikasi visual dengan 175 juta pengguna bulanan. Sebuah studi kasus OpenAI menggambarkan bagaimana Magic Studio Canva menggunakan GPT-4 untuk menghasilkan konten multimodal, memungkinkan fitur seperti Magic Write (generasi teks), Magic Design (penciptaan presentasi dan video), Magic Switch (terjemahkan dan menyesuaikan konten), dan banyak lagi. . Studi Kasus Canva kognisi Cognition AI adalah startup di belakang Devin, dihitung sebagai insinyur perangkat lunak AI pertama di dunia. Devin, didukung oleh model dasar OpenAI GPT-4, dapat secara otonom menangani tugas-tugas rekayasa yang kompleks seperti menulis kode, debugging, dan mendistribusikan aplikasi. menjalankan lingkaran agen untuk merencanakan, kode, dan menguji perangkat lunak membutuhkan jendela konteks yang panjang dan langkah-langkah pertimbangan berulang, mendorong penggunaan token. . Analisis Voiceflow CodeRabbit CodeRabbit menyediakan layanan pemeriksaan kode otomatis dan jaminan kualitas. ia menggunakan model OpenAI untuk menganalisa diffs, alasan tentang struktur program, dan mengusulkan perbaikan; pemeriksaan kode berkelanjutan di ribuan repository menyebabkan jumlah token yang sangat besar. Untuk lebih Halaman Produk CodeRabbit Datadog Datadog adalah platform observabilitas yang digunakan oleh pengembang dan tim operasi. Pada konferensi 2023 Dash, perusahaan memperkenalkan Bits AI, asisten digital yang dibangun pada OpenAI ChatGPT yang menampilkan rekomendasi real-time untuk masalah seperti peringatan dan anomali, dan meluncurkan produk yang disebut LLM Observability untuk memantau LLM khusus. Karena Bits AI terintegrasi ke dashboard yang memantau ribuan layanan dan log, dan karena LLM Observability menganalisis prompts dan tanggapan, jumlah token sangat besar. . dari DevOps.com Dekon Decagon menyediakan dukungan pelanggan yang sepenuhnya otomatis. ia menggunakan GPT-3.5, GPT-4, dan GPT-4o untuk mendukung bot agen yang menangani jutaan percakapan pelanggan di seluruh perusahaan seperti Duolingo, Notion, dan Substack. bot ini menangani seluruh siklus hidup dukungan – menjawab pertanyaan, memecahkan masalah, dan meningkatkan ketika diperlukan – menyebabkan jumlah token naik. . Sejarah Decagon Delphi yang Delphi membangun chatbots “Digital Minds” yang dipersonalisasi untuk para pencipta dan influencer. Pipeline generasi yang ditingkatkan (RAG) mengambil podcast, PDF, dan media sosial untuk melatih chatbots ini dan menggunakan database vektor yang dikelola untuk menyimpan lebih dari 100 juta embeddings. Pelatihan dan pembaruan ribuan orang digital di berbagai sumber konten mendorong penggunaan token yang tinggi. . Laporan ini tentang scaling Delphi dengan RAG Duolingo yang Duolingo adalah aplikasi pembelajaran bahasa terbesar di dunia, yang dikenal karena pelajaran yang dimainkan dan distribusi yang luas. ia bermitra dengan OpenAI untuk mengintegrasikan GPT-4 ke dalam Duolingo Max, yang menawarkan fitur seperti “Mengungkapkan Jawaban Saya” dan Role Play, memungkinkan siswa untuk memiliki percakapan dengan barista virtual atau panduan wisata dan menerima umpan balik terperinci. latihan yang dipersonalisasi dan sadar konteks ini hanya mungkin karena setiap pertanyaan dan tanggapan siswa tokenized, menjelaskan mengapa perusahaan mengumpulkan lebih dari satu triliun token. . Artikel ini akan membahas tentang Duolingo Genspark yang Genspark AI (juga dikenal sebagai Sparks) adalah startup AI Tiongkok yang didirikan oleh mantan eksekutif Baidu Eric Jing dan Kay Zhu. Perusahaan ini menggunakan arsitektur Mixture-of-Agents yang mengoreksi lebih dari 80 alat dunia nyata untuk menyelesaikan tugas pengguna, telah mengumpulkan $ 160 juta, dan menarik lebih dari dua juta pengguna. . Pengenalan Genspark Harvey Harvey membangun alat generatif AI yang aman untuk hukum, pajak, dan keuangan. Harvey bermitra dengan OpenAI untuk mengembangkan model jurisprudensi khusus; platform ini dapat merumuskan dokumen, menjawab pertanyaan tentang skenario litigasi, dan mengidentifikasi ketidaksesuaian dalam kontrak. Dengan firma hukum besar menghasilkan dan meninjau ribuan dokumen panjang, volume token sangat besar. . Kisah Harvey HubSpot dan Dashworks HubSpot mengakuisisi Dashworks, asisten pencarian tempat kerja yang didukung oleh AI. Dashworks menghubungkan data di seluruh aplikasi, melakukan pencarian mendalam, dan meringkas rincian penting. Timnya akan membantu membangun asisten AI untuk setiap pekerja yang pergi ke pasar. kemampuan Dashworks untuk mengkonsumsi dan berpendapat tentang basis pengetahuan perusahaan menggunakan jendela konteks yang besar; mengintegrasikannya ke HubSpot's Breeze Copilot meningkatkan penggunaan token di ribuan pelanggan. . Pengumuman HubSpot Penyelesaian iSolutionsAI membangun model pembelajaran mesin yang disesuaikan dan chatbot AI untuk bisnis. mengintegrasikan model OpenAI ke dalam alur kerja masing-masing klien menghasilkan banyak jendela konteks panjang (penyelesaian klien, riwayat CRM, dll.), yang menjelaskan volume token yang tinggi. . halaman layanan iSolutionsAI sesungguhnya Indeed mengoperasikan pasar kerja terbesar di dunia. tim tekniknya telah lama menggunakan algoritma pembelajaran mesin untuk cocok dengan pencari kerja dan majikan, dan selama beberapa tahun terakhir, mereka telah menambahkan model AI generatif untuk meningkatkan rekomendasi ini. . Wawancara dengan CIO JetBrains JetBrains membuat alat pengembang populer seperti IntelliJ dan PyCharm. Asisten AInya didukung oleh API OpenAI, yang terintegrasi oleh perusahaan karena alasan lanjutan dan kemudahan penggunaannya. Asisten membantu jutaan pengembang menghasilkan tes, kode refaktor, menulis pesan komisi, dan memperjelas kesalahan. Mengingat skala basis pengguna, bahkan saran kode sederhana diterjemahkan menjadi jumlah token yang besar. . JetBrains’ AI Asisten FAQ Pasar Bebas Mercado Libre adalah perusahaan e-commerce dan fintech terbesar di Amerika Latin. perusahaan ini membangun Verdi, platform pengembangan AI yang memanfaatkan GPT-4o dan model lainnya untuk menangani tugas-tugas kompleks seperti layanan pelanggan mediasi, deteksi penipuan, lokalisasi, dan ulasan ringkas. . Pemandangan Verdi Pengertian Notion adalah ruang kerja terhubung untuk menulis, perencanaan, dan manajemen pengetahuan. ia mengubah produknya menjadi platform yang didukung oleh AI dengan mengintegrasikan model OpenAI untuk meringkas halaman, menghasilkan menulis, dan menjawab pertanyaan di seluruh ruang kerja. kombinasi basis pengguna yang besar dan fitur generatif seperti Notion AI menyebabkan jejak token yang besar. . Kisah Pembukaan OpenRouter yang OpenRouter menjalankan API gaya marketplace yang memungkinkan pengembang untuk mengakses ratusan model bahasa besar melalui satu titik akhir. Platform ini mendukung model OpenAI, Anthropic, Google, Meta, dan Mistral dan secara otomatis menangani backback dan routing yang hemat biaya. Karena setiap permintaan yang dibuat oleh ribuan aplikasi klien diproxy melalui OpenRouter, jumlah token kumulatif perusahaan dengan cepat melonjak. . Pandangan umum OpenRouter keluar Outtake menawarkan otomatisasi cybersecurity yang didorong oleh AI. Platform agen mereka mendeteksi dan memperbaiki serangan dalam beberapa jam, mengotomatisasi deteksi dan tanggapan. beban kerja cybersecurity membutuhkan analisis log dan aliran telemetri yang luas; menggunakan model OpenAI untuk mengurutkan, menjelaskan peringatan, dan menghasilkan script perbaikan mengkonsumsi miliaran token. . Sejarah Keamanan Cybersecurity Persepsi Perplexity AI adalah mesin pencari yang didukung oleh AI yang menjawab pertanyaan dengan sumber yang disebutkan. langganan Perplexity Pro mencakup model lanjutan dari OpenAI, seperti GPT-5 dan model o-series OpenAI, bersama dengan model Anthropic dan open-source. Ketika pengguna melakukan pencarian pro, sistem dapat memanggil model OpenAI untuk alasan mendalam dan pencarian web. . Artikel tentang Perplexity Pro Rampasan Ramp adalah perusahaan fintech yang mengotomatisasi pengeluaran perusahaan. agen AInya mengotomatisasi pelaporan pengeluaran, pengadaan, dan akuntansi. agen-agen ini, dibangun pada model OpenAI, harus menganalisa dan menafsirkan tagihan, email, dan tagihan dalam skala besar; setiap dokumen berkontribusi token, dan volume agregat dari ribuan pelanggan dengan cepat melebihi satu triliun. . Laporan PYMNTS Bacaan AI Read AI menciptakan alat-alat produktivitas pertemuan yang secara otomatis meringkas percakapan, email, dan obrolan. ia mendengarkan panggilan Zoom atau Google Meet dan dengan cepat meringkas percakapan, menyediakan transkrip, pelatihan, dan kondensasi pesan di seluruh thread email. transkripsi real-time dan meringkas sejarah pertemuan dan pesan untuk pelanggan perusahaan menyebabkan konsumsi token yang besar. . Artikel dari Siliconangle Rox Rox sedang membangun platform operasional pendapatan yang didorong oleh AI. Ini menyatukan data yang terfragmentasi dari go-to-market ke dalam satu sistem catatan tunggal dan menggunakan sekelompok agen yang didukung oleh OpenAI untuk memberikan wawasan dan mengotomatisasi alur kerja untuk tim penjualan. persaingan data dan pemrosesan agen yang berkelanjutan di seluruh jutaan interaksi penjualan menyebabkan penggunaan token yang berat. . Profil yang terbuka Salesforce yang Salesforce adalah raksasa CRM yang memasukkan AI dalam produknya. penawaran Einstein GPT didasarkan pada model bahasa OpenAI dan menghasilkan konten yang dipersonalisasi (e-mail, tindakan penjualan, kode) langsung di dashboard Salesforce. sistem ini mengotomatisasi tugas rutin seperti merancang email dan meringkas catatan untuk jutaan pengguna, mendorong penggunaan token yang sangat tinggi. . Penelitian Salesforce Einstein Sider yang Sider adalah ekstensi browser yang bertindak sebagai asisten AI all-in-one. Ini memberi pengguna akses ke beberapa model AI (ChatGPT, Claude, Gemini), meringkas artikel, melakukan obrolan kelompok, meringkas video YouTube, dan menyediakan alat seperti Wisebase (basis pengetahuan), ChatPDF, dan Slides AI. Mendukung serangkaian fungsi yang luas untuk jutaan pengguna menyebabkan sejumlah besar prompts dan tanggapan tokenized. . Halaman yang berkaitan dengan review Shopify yang Shopify memungkinkan lebih dari satu juta toko online. OpenAI bermitra dengan Etsy dan Shopify untuk memungkinkan pengguna untuk membeli barang langsung melalui ChatGPT, dengan pedagang Shopify dapat menjual dalam percakapan tanpa pengalihan.Kombinasikan itu dengan Shopify Magic, asisten generatif AI platform untuk deskripsi produk dan salinan pemasaran, dan jelas mengapa penggunaan token begitu tinggi. . Pengumuman Reuters T-Mobile yang T-Mobile memanfaatkan AI generatif untuk dukungan pelanggan. ia membangun IntentCX, platform pengambilan keputusan AI real-time, berbasis niat dengan OpenAI yang akan memberikan tindakan terbaik berikutnya dan mengurangi panggilan layanan hingga 75%. menganalisis perasaan pelanggan dan membimbing agen virtual dan manusia melalui puluhan juta interaksi menghasilkan penggunaan token yang besar. . Artikel CX hari ini Analisis Tiger Tiger Analytics adalah perusahaan konsultasi yang mengkhususkan diri dalam analisis lanjutan dan AI. Pada tahun 2024, perusahaan mengumumkan kolaborasi strategis dengan AWS untuk mempercepat pengembangan dan penyebaran solusi AI generatif, menggabungkan keahlian domain dengan infrastruktur AWS. Membangun model generatif khusus untuk klien perusahaan – termasuk pipa generasi yang diperluas dengan retrieval dan varian GPT yang disesuaikan – mendorong penggunaan token yang signifikan. . Berita sebelumyaCRN India Press Release Pembangunan.dev Warp.dev membangun terminal modern yang didukung oleh AI. Warp mengintegrasikan AI untuk menyarankan perintah, menghasilkan kode, memecahkan kesalahan, dan memberikan pengalaman seperti IDE. Fitur seperti Warp Drive memungkinkan pengguna untuk menyimpan perintah yang dapat digunakan kembali dan runbooks interaktif, sementara asisten AI dapat merencanakan dan melakukan alur kerja yang kompleks. . The Warp AI gambaran keseluruhan siapa WHOOP adalah perusahaan kebugaran yang dapat dipakai yang menawarkan pelatihan kesehatan yang dipersonalisasi. pelatih bertenaga GPT-4 perusahaan menjawab pertanyaan tentang rutinitas latihan, pemulihan, dan tidur menggunakan data yang dikumpulkan oleh tali WHOOP, memberikan bimbingan selalu. Karena data sensor setiap pengguna 24/7 diubah menjadi petunjuk, penggunaan token secara alami skyrockets. . Kisah Sukses OpenAI Zendesk Zendesk adalah platform pengalaman pelanggan. perusahaan ini bermitra dengan OpenAI dan meluncurkan GPT-4o ke semua pelanggan Zendesk AI, memungkinkan jawaban generatif yang tiga kali lebih cepat dan lebih akurat dalam menghasilkan jawaban seperti manusia dari basis pengetahuan. . Berita dari Zendesk Apakah penggunaan token berat baik atau buruk? Di akhir daftar, seseorang harus bertanya apakah membakar triliun token adalah tanda pertumbuhan yang sehat atau pengeluaran yang melarikan diri. "Ini seperti menghabiskan jutaan dolar untuk berjudi dan kasino memberi Anda kamar hotel gratis untuk malam hari" - cara yang berwarna-warni untuk mencatat bahwa pembakaran komputer tidak menjamin nilai jangka panjang. Jurnalis Lauren Goode Menangis Di sisi positif, penggunaan token berat biasanya menunjukkan adopsi produk yang kuat dan integrasi mendalam dari AI generatif ke dalam alur kerja, yang dapat membenarkan penilaian yang lebih tinggi melalui peningkatan produktivitas dan kepuasan pelanggan. Kredit gambar : Daud yang Data ekstrapolasi dari OpenAI demo hari satu triliun+ token dikonsumsi slide. Daud yang
