Veliki jezički modeli su ključni deo modernih digitalnih proizvoda. Na vrhu ovog vala su kompanije koje su sagorele preko više od jednog trilijuna OpenAI žetona. Tablica, ekstrapolirana iz nedavnog OpenAI demo dana slajda i posle toga počela cirkulirati na X/Twitteru, lista 30 klijenata koji su kolektivno konzumirali očiglednu količinu AI API poziva. Ispod je dublji pogled na ono što svaka kompanija radi, kako oni implementiraju generativnu AI, i kratak pogled na to zašto i kako njihova upotreba žetona može biti tako visoka. Abridž Abridge je ekološka AI kompanija fokusirana na dokumentaciju o zdravstvenoj zaštiti. Ona beleži razgovore lekara i pacijenata i sažima ih u strukturirane kliničke bilješke (SOAP bilješke) koristeći napredne modele za obradu prirodnog jezika i strojno učenje, generirajući sažetke u realnom vremenu, stavke akcije i ključne medicinske terminologije. S hiljadama kliničara koji koriste Abridge za transkripciju i sažimanje dugih konzultacija, brojevi žetona brzo se razmjenjuju. . Ovaj pregled Abridge AI Kanadski Canva je platforma za vizualnu komunikaciju sa 175 miliona korisnika mesečno. OpenAI studija slučaja opisuje kako Canva's Magic Studio koristi GPT-4 za multimodalno stvaranje sadržaja, omogućavajući značajke kao što su Magic Write (generiranje teksta), Magic Design (stvaranje prezentacija i videa), Magic Switch (prevođenje i prilagođavanje sadržaja), i više. . Canva studija slučaja Poznavanje Cognition AI je start-up iza Devina, koji se smatra prvim softverskim inženjerom AI na svetu. Devin, pohranjen na temelju GPT-4 modela OpenAI-a, može samostalno da se nosi sa složenim inženjerskim zadatcima kao što su pisanje koda, debugiranje i implementacija aplikacija. Trčanje agentičkih krugova za planiranje, kodiranje i testiranje softvera zahtijeva duge prozore konteksta i ponovljene korake razmatranja, što dovodi do upotrebe tokena. . Voiceflow analiza Kodiranje CodeRabbit pruža automatizovane usluge pregleda koda i osiguranja kvaliteta. Koristi modele OpenAI-a za analizu difesa, razmatranje strukture programa i predlaganje popravaka; kontinuirani pregled koda u hiljadama repozitorija dovodi do izuzetno velikog broja tokena. za više. CodeRabbit stranica proizvoda Izveštaj Datadog je platforma za promatranje koju koriste programeri i operativni timovi. Na svojoj konferenciji 2023 Dash, kompanija je predstavila Bits AI, digitalni asistent zasnovan na OpenAI-ovom ChatGPT-u koji prikazuje preporuke u realnom vremenu za probleme kao što su upozorenja i anomalije, i pokrenula je proizvod pod nazivom LLM Observability za praćenje prilagođenih LLM-ova. . Uslovi korišćenja Dekadentno Decagon pruža potpuno automatizovanu podršku klijentima. Koristi GPT-3.5, GPT-4, i GPT-4o za napajanje agentičkih botova koji rukovode milionima razgovora klijenata širom kompanija kao što su Duolingo, Notion i Substack. Ovi botovi rukovode čitavim životnim ciklusom podrške – odgovaranjem na pitanja, rješavanjem problema i eskaliranjem kada je potrebno – uzrokujući rast broja žetona. . Priča o Decagonu Delfije Delphi gradi personalizovane “Digital Minds” chatbots za kreatore i utjecatelje. Njegova potražnja-povećana generacija (RAG) pipeline unosi podcastove, PDF-ove i društvene medije za obuku tih chatbots i koristi upravljanu vektorsku bazu podataka za skladištenje više od 100 miliona ugrađivanja. Obuka i ažuriranje hiljada digitalnih osoba u različitim izvorima sadržaja pokreće visoku upotrebu tokena. . ovaj izveštaj o skaliranju Delphi-a sa RAG-om Duolingo izveštaji Duolingo je najveća aplikacija za učenje jezika na svijetu, poznata po svojim igranim lekcijama i širokom distribuciji. Partnerstvo s OpenAI-om integrisalo je GPT-4 u Duolingo Max, koji nudi značajke kao što su “Objasni moj odgovor” i Role Play, omogućavajući učenicima da imaju razgovore sa virtualnim baristom ili vodičem i primaju detaljne povratne informacije. Ove personalizovane, kontekstualne vježbe su moguće samo zato što je svako upit i odgovor učenika tokeniziran, objašnjavajući zašto je kompanija skupila više od trilijuna žetona. . ovaj članak o Duolingo AI karakteristikama Genspark AI Genspark AI (takođe poznat kao Sparks) je kineski AI start-up osnovan od strane bivših Baidu direktora Eric Jing i Kay Zhu. Tvrtka koristi arhitekturu Mixture-of-Agents koja orkestriraju preko 80 realnih alata za obavljanje korisničkih zadataka, prikupila je 160 miliona dolara i privukla više od dva miliona korisnika. . Uvod u Genspark Haradinaj Harvey gradi bezbedne generativne AI alate za zakon, porez i financije. Harvey je sarađivao s OpenAI-om kako bi razvio model prilagođene sudske prakse; platforma može sastaviti dokumente, odgovoriti na pitanja o scenarijima sudskih postupaka i identificirati razlike u ugovorima. . Harvey priča Uslovi korišćenja HubSpot / Dashworks HubSpot je stekao Dashworks, pomoćnik za pretragu na radnom mestu zasnovan na AI-u. Dashworks povezuje podatke preko aplikacija, izvodi duboko pretraživanje i sažima važne detalje. Njegov tim će pomoći u izgradnji AI asistentova za svakog radnika koji ide na tržište. Dashworksova sposobnost da unese i razmotri korporativne baze znanja koristi velike prozore konteksta; integracija toga u HubSpotov Breeze Copilot umnožava upotrebu tokena među tisućama klijenata. . Obaveštenje HubSpot Rešenja iSolutionsAI gradi prilagođene modele strojnog učenja i AI chatbots za poduzeća. Integracija OpenAI modela u tok posla svakog klijenta rezultira u mnogim dugim kontekstualnim prozorima (klijenta upita, CRM povijesti, itd.), što objašnjava visoku količinu tokena. . stranica za usluge iSolutionsAI zaista Doista posluje na najvećem tržištu rada na svetu. Njegov inženjerski tim već dugo koristi algoritme za strojno učenje kako bi se uskladili tražitelji posla i poslodavci, a u proteklih nekoliko godina dodao je generativne modele AI za poboljšanje tih preporuka. Usklađivanje miliona CV-a sa milijunima opisa poslova zahtijeva ogromne količine zaključaka. . Intervju za CIO Uslovi korišćenja JetBrains čini popularne alatke za programere kao što su IntelliJ i PyCharm. Njegov AI Asistent pokreće OpenAI API, koji je kompanija integrirala zbog svog naprednog razmatranja i jednostavnosti korišćenja. Asistent pomaže milijunima programera da generišu testove, refaktor kod, napišu poruke o kompromisu i razjasne greške. S obzirom na veličinu svoje korisničke baze, čak i jednostavni prijedlozi za kod pretvaraju se u ogromne brojeve tokena. . JetBrains’ AI pomoćnik FAQ Slobodno tržište Mercado Libre je najveća e-trgovinska i fintech kompanija u Latinskoj Americi. Tvrtka je izgradila Verdi, platformu za razvoj AI-a koja koristi GPT-4o i druge modele za rješavanje složenih zadataka kao što su posredovanje u uslugama korisnicima, otkrivanje prijevara, lokalizacija i sažeti pregledi. Verdi već rješava 10 % slučajeva posredovanja i na putu je da posreduje 450 miliona dolara u sporovima godišnje. . Zeleni pregled pojam Notion je povezan radni prostor za pisanje, planiranje i upravljanje znanjem. Pretvorio je svoj proizvod u duboko AI-powered platformu tako što je integrisao OpenAI modele da sažeti stranice, generirati pisanje i odgovoriti na pitanja širom radnog prostora. . Otvorena priča Otvorenost OpenRouter pokreće marketplace-style API koji omogućava programerima da pristupe stotinama velikih jezikovnih modela kroz jednu krajnju tačku. Platforma podržava OpenAI, Anthropic, Google, Meta i Mistral modele i automatski rješava fallback i troškovno efikasno usmjeravanje. Budući da je svaki zahtjev koji podnose hiljade klijenata aplikacija proxy preko OpenRouter-a, kumulativni broj tokena kompanije brzo se povećava. . Opširnije o OpenRouter Izlazak Outtake nudi AI automatizaciju sajber sigurnosti. Njegova agencijska platforma detektira i ispravlja napade u satima, automatizirajući i detekciju i odgovor. Radna opterećenja sajber sigurnosti zahtijevaju analizu opsežnih dnevnika i telemetrijskih tokova; koristeći OpenAI modele za razvrstavanje, objašnjenje upozorenja i generiranje skripta za ispravljanje troši milijarde tokena. . Outtake priča o sajber sigurnosti zbunjenost Perplexity AI je AI-powered pretraživač koji odgovara na pitanja sa citiranim izvorima. Preuzimanje Perplexity Pro uključuje napredne modele iz OpenAI-a, kao što su GPT-5 i OpenAI-ovi o-serije modeli, uz Anthropic i open-source modele. Kada korisnici izvode pro pretrage, sistem može pozvati OpenAI modele za duboko razmatranje i web pretraživanje. . članak o Perplexity Pro pomoći Rampiranje Ramp je fintech kompanija koja automatizuje korporativne troškove. Njegovi AI agenti automatiziraju izvješćivanje o troškovima, nabavu i knjigovodstvo. Ovi agenti, izgrađeni na modelima OpenAI, moraju analizirati i tumačiti potvrde, e-pošte i fakture na skali; svaki dokument doprinosi tokenima, a agregirani volumen od hiljada klijenata brzo prelazi bilion. . PYMNTS’ izveštaj Pročitajte AI Read AI stvara alatke za produktivnost sastanaka koji automatski sažimaju razgovore, e-pošte i razgovore. On sluša pozive Zoom ili Google Meet i brzo sažima razgovore, pružajući transkripte, coaching i kondenziranje poruka preko e-pošte. transkripcija u realnom vremenu i sažimanje povijesti sastanaka i poruka za korporativne klijente dovodi do ogromne potrošnje tokena. . Silicijumski članak Rox Rox gradi platformu za operacije prihoda zasnovanu na AI-u. Ujedinjuje fragmentirane podatke o odlasku na tržište u jedan sustav zapisa i koristi gomile agenata zasnovanih na OpenAI-u kako bi pružili uvid i automatizovali tokove posla za timove za prodaju. . Otvaranje profila SalesForce podrška Salesforce je CRM gigant koji duboko ugrađuje AI u svoje proizvode. Njegova Einstein GPT ponuda je izgrađena na OpenAI jezikovnim modelima i generira personalizovani sadržaj (e-pošte, prodajne akcije, kod) direktno u Salesforce kontrolne ploče. Sistem automatizuje rutinske zadatke kao što su sastavljanje e-pošte i sažetak zapisa za milijune korisnika, što dovodi do izuzetno visoke upotrebe tokena. . Salesforce Einstein Pregled Struktura AI Sider je proširenje pretraživača koje deluje kao sve-u-jedan AI asistent. On pruža korisnicima pristup višestrukim modelima AI (ChatGPT, Claude, Gemini), sažima članke, provodi grupne razgovore, sažima YouTube videozapise i pruža alate kao što su Wisebase (baza znanja), ChatPDF i AI slajdovi. Podržavanje takvog širokog spektra funkcija za milijune korisnika dovodi do ogromnog broja tokeniziranih upita i odgovora. . The Sider AI pregled Kupovina Shopify pokreće više od milijun online prodavnica. OpenAI partner s Etsy i Shopify kako bi omogućio korisnicima da kupuju stavke direktno preko ChatGPT-a, s Shopify trgovcima koji mogu da prodaju unutar razgovora bez preusmjeravanja. Kombinirajte to sa Shopify Magic, generativnim AI asistentom platforme za opise proizvoda i marketinšku kopiju, i jasno je zašto je upotreba tokena tako visoka. . Obaveštenje Reutersa Mobilni telefoni T-Mobile koristi generativnu AI za korisničku podršku. Ona gradi IntentCX, real-time, namjerno-driven AI-odlučivanje platformu sa OpenAI koji će pružiti sljedeće najbolje akcije i smanjiti usluge poziva za do 75%. . CX današnji članak Analitičari Tiger Analytics je konzultantska tvrtka specijalizirana za napredne analitike i AI. 2024. godine, kompanija je najavila stratešku saradnju sa AWS-om kako bi ubrzala razvoj i uvođenje generativnih AI rješenja, kombinirajući svoje domene sa AWS-ovom infrastrukturom. Izgradnja prilagođenih generativnih modela za korporativne klijente – uključujući generatorske cijevi za povećanje preuzimanja i varijante GPT-a – pokreće značajnu upotrebu tokena. . CRN Indija saopštenje za medije Uslovi korišćenja Warp.dev gradi moderan, AI-powered terminal. Warp integrira AI da predloži komande, generira kod, otklanja greške i pruža IDE-like iskustvo. Funkcije poput Warp Drive omogućavaju korisnicima da sačuvaju uputstva za ponovnu upotrebu i interaktivne runbooke, dok AI asistent može planirati i izvršiti složene tokove rada. Svaka interakcija sa AI poziva na jezikovne modele, što rezultira visokom potrošnjom tokena. . The Warp AI Pregled Koja WHOOP je nosiva fitnes kompanija koja nudi personalizovano zdravstveno coaching. Tvrtka GPT-4-powered trener odgovara na pitanja o rutini treninga, oporavak i spavanje koristeći podatke prikupljene od strane WHOOP trake, pružajući uvek-na smjernice. Pošto je svaki korisnik 24/7 senzor podataka se pretvara u upute, upotreba tokena prirodno skyrockets. . Priča o otvorenom uspehu Zrenjanin Zendesk je platforma za korisničko iskustvo. Tvrtka je sarađivala s OpenAI-om i implementirala GPT-4o svim Zendesk AI korisnicima, omogućavajući generativne odgovore koji su tri puta brži i precizniji pri generiranju ljudskih odgovora iz baza znanja. . Zendesk saopštenje Je li Heavy Token korištenje dobro ili loše? Na kraju popisa, treba pitati je li spaljivanje trilijuna žetona znak zdravog rasta ili istrošene potrošnje. "Ovo je kao da trošite milion dolara na kockanje, a kazino vam daje besplatnu hotelsku sobu za noć" - šaroban način da napomenete da paljenje računala ne jamči dugoročnu vrijednost.Neke od tih AI kompanija potrošile su milijarde žetona na OpenAI API-je, što može impresionirati kolege, ali može uplašiti investitore ako troškovi nadmašuju prihode. Novinarka Lauren Goode S pozitivne strane, teška upotreba tokena obično ukazuje na snažno usvajanje proizvoda i duboku integraciju generativne AI u tokove rada, što može opravdati veće vrednovanje kroz poboljšanu produktivnost i zadovoljstvo kupaca. Kredit za sliku: Izveštaj Das Podaci ekstrapolirani iz OpenAI demo dan jedan trilijun+ tokena potrošio slajd. Izveštaj Das
