Lieli valodu modeļi ir mūsdienu digitālo produktu galvenā sastāvdaļa. Šīs viļņa augšpusē ir uzņēmumi, kas ir sadedzinājuši vairāk nekā vienu triljonu OpenAI žetonu. Tabula, kas ekstrapolēta no nesenās OpenAI demo dienas slaidas un līdz ar to sāka cirkulēt X / Twitter, uzskaita 30 klientus, kuri kopumā patērēja pārsteidzošu AI API zvanu daudzumu. Zemāk ir padziļināts skatījums uz to, ko katrs uzņēmums dara, kā viņi izvieto ģeneratīvo AI, un īss skats uz to, kāpēc un kā viņu žetonu izmantošana var būt tik augsta. Saraksts tiek pasūtīts alfabētiski pēc uzņēmuma, bet attēla tendences iepriekš tika pasūtītas alfabētiski pēc uzņēmuma pārstāvja vārda. Abridža Abridge ir vides AI uzņēmums, kas koncentrējas uz veselības aprūpes dokumentāciju. Tā ieraksta ārsta un pacienta sarunas un apkopo tos strukturētos klīniskajos piezīmēs (SOAP piezīmēs), izmantojot uzlabotus dabiskās valodas apstrādes un mašīntulkošanas modeļus, radot reāllaika kopsavilkumus, darbības elementus un galvenos medicīniskos terminus. Ar tūkstošiem klīniku, kas izmanto Abridge, lai pārrakstītu un apkopotu garas konsultācijas, žetonu skaitļi ātri palielinās. . Apraksts par Abridge AI Canvas Canva ir vizuālās komunikācijas platforma ar 175 miljoniem ikmēneša lietotāju. OpenAI gadījumu pētījums apraksta, kā Canva Magic Studio izmanto GPT-4 multimodālai satura ģenerēšanai, ļaujot tādām funkcijām kā Magic Write (teksta ģenerēšana), Magic Design (prezentāciju un video izveide), Magic Switch (satura tulkošana un pielāgošana) un vairāk. . Canva gadījumu izpēte Izziņas Cognition AI ir start-up aiz Devin, kas tiek uzskatīts par pasaulē pirmo AI programmatūras inženieri. Devin, ko darbina OpenAI GPT-4 pamatmodelis, var patstāvīgi risināt sarežģītus inženiertehniskos uzdevumus, piemēram, kodu rakstīšanu, debugēšanu un lietojumprogrammu izvietošanu. . Voiceflow analīze Kodeģistrācija CodeRabbit nodrošina automatizētu koda pārskatīšanu un kvalitātes nodrošināšanas pakalpojumus. tā izmanto OpenAI modeļus, lai analizētu diffus, pamatojumu par programmas struktūru un ierosinātu labojumus; nepārtraukta koda pārskatīšana tūkstošiem repozitoriju noved pie ārkārtīgi lieliem žetonu skaita. Par vairāk CodeRabbit produkta lapa Datori Datadog ir novērojamības platforma, ko izmanto izstrādātāji un darbības komandas. 2023 Dash konferencē uzņēmums iepazīstināja ar Bits AI, digitālo palīgu, kas izveidots, pamatojoties uz OpenAI ChatGPT, kas reaģē uz reāllaika ieteikumiem tādām problēmām kā brīdinājumi un anomālijas, un uzsāka produktu, ko sauc par LLM novērojamību, lai uzraudzītu pielāgotus LLM. Tā kā Bits AI ir integrēts instrumentos, kas uzrauga tūkstošiem pakalpojumu un žurnālu, un tāpēc, ka LLM novērojamība analizē uzaicinājumus un atbildes, žetonu skaits ir milzīgs. . DevOps.com lietošana Dekāns Decagon nodrošina pilnībā automatizētu klientu atbalstu. tā izmanto GPT-3.5, GPT-4, un GPT-4o, lai darbinātu aģentu robotus, kas apstrādā miljoniem klientu sarunu starp uzņēmumiem, piemēram, Duolingo, Notion un Substack. Šie roboti apstrādā visu atbalsta dzīves ciklu - atbildot uz jautājumiem, atrisinot problēmas un eskalējot, ja nepieciešams - izraisot žetonu skaitu. . Decagon stāsts Delfi Delphi veido personalizētus “Digital Minds” čatbotus radītājiem un ietekmētājiem. Tās retrieval-augmented generation (RAG) cauruļvads uzņem podcastus, PDF un sociālos medijus, lai apmācītu šos čatbotus un izmanto pārvaldītu vektoru datubāzi, lai uzglabātu vairāk nekā 100 miljonus iebūvēto materiālu. Tūkstošiem digitālo personu apmācība un atjaunināšana dažādos satura avotos izraisa augstu tokenu izmantošanu. . Šis ziņojums par Delphi skalēšanu ar RAG Duolingo Duolingo ir pasaulē lielākā valodu apguves lietotne, kas pazīstama ar savām spēļu nodarbībām un plašu izplatīšanu. tā sadarbojās ar OpenAI, lai integrētu GPT-4 Duolingo Max, kas piedāvā tādas funkcijas kā “Izskaidrojiet manu atbildi” un Role Play, ļaujot skolēniem sarunāties ar virtuālo baristu vai tūrisma ceļvedi un saņemt detalizētu atgriezenisko saiti. Šie personalizētie, kontekstu apzinātie vingrinājumi ir iespējami tikai tāpēc, ka katrs skolēna vaicājums un atbilde ir tokenizēta, izskaidrojot, kāpēc uzņēmums uzkrājis vairāk nekā triljonu žetonu. . Šis raksts ir par Duolingo AI funkcijām Genspark AI Genspark AI (pazīstams arī kā Sparks) ir Ķīnas AI start-up, ko dibināja bijušie Baidu vadītāji Eric Jing un Kay Zhu. Kompānija izmanto Mixture-of-Agents arhitektūru, kas orķestrē vairāk nekā 80 reālos rīkus, lai veiktu lietotāju uzdevumus, ir piesaistījusi 160 miljonus dolāru un piesaistījusi vairāk nekā divus miljonus lietotāju. . Genspark ieviešana Harvey Harvey izveido drošus ģeneratīvo AI rīkus tiesību, nodokļu un finanšu jomā. Harvey sadarbojās ar OpenAI, lai izstrādātu pielāgotu judikatūras modeli; platforma var sagatavot dokumentus, atbildēt uz jautājumiem par strīdu scenārijiem un identificēt neatbilstības līgumos. . Harvey stāsts HubSpot/Dashworks darbnīca HubSpot iegādājās Dashworks, AI darbavietu meklēšanas palīgu. Dashworks savieno datus visās lietojumprogrammās, veic dziļu meklēšanu un apkopo svarīgas detaļas. Tās komanda palīdzēs izveidot AI palīgus katram izejam tirgū strādājošajam. Dashworks spēja uzņemt un saprast korporatīvās zināšanu bāzes izmanto lielus konteksta logus; integrējot to HubSpot Breeze Copilot, vairojas tokenu izmantošana tūkstošiem klientu. . HubSpot paziņojums Izšķirtspēja iSolutionsAI izveido pielāgotus mašīntulkošanas modeļus un AI tērzēšanas robotus uzņēmumiem.OpenAI modeļu integrēšana katra klienta darba plūsmā rada daudzus garus konteksta logus (klientu vaicājumus, CRM vēsturi utt.), kas izskaidro augsto žetonu apjomu. . iSolutionsAI pakalpojumu lapa Patiesībā Faktiski tā darbojas pasaulē lielākajā darba tirgū. tās inženieru komanda jau sen izmanto mašīntulkošanas algoritmus, lai atbilstu darba meklētājiem un darba devējiem, un pēdējos gados tā ir pievienojusi ģeneratīvos AI modeļus, lai uzlabotu šos ieteikumus. Miljonu CV atbilstība miljoniem darba aprakstu prasa milzīgus secinājumu apjomus. . Intervija ar CIO JetBrains JetBrains padara populārus izstrādātāju rīkus, piemēram, IntelliJ un PyCharm. Tās AI asistents darbojas, izmantojot OpenAI API, ko uzņēmums integrēja, pateicoties tā uzlabotajam pamatojumam un lietošanas ērtībai. asistents palīdz miljoniem izstrādātāju ģenerēt testus, refaktora kodu, rakstīt kompromisa ziņojumus un precizēt kļūdas. Ņemot vērā tās lietotāju bāzes mērogu, pat vienkāršus koda ieteikumus pārvērš milzīgā žetonu skaitā. skat. . JetBrains AI palīgs FAQ Brīvais tirgus Mercado Libre ir lielākais e-komercijas un fintech uzņēmums Latīņamerikā. uzņēmums izveidoja Verdi, AI attīstības platformu, kas izmanto GPT-4o un citus modeļus, lai risinātu sarežģītus uzdevumus, piemēram, klientu apkalpošanas starpniecību, krāpšanas atklāšanu, lokalizāciju un apkopošanas pārskatus. . Zaļais pārskats Jēdziens Notion ir savienota darba telpa rakstīšanai, plānošanai un zināšanu pārvaldībai. tā pārveidoja savu produktu par dziļi AI atbalstītu platformu, integrējot OpenAI modeļus, lai apkopotu lapas, ģenerētu rakstīšanu un atbildētu uz jautājumiem visā darba telpā. . Atvērto durvju stāsts OpenRouter OpenRouter darbina tirgus stila API, kas ļauj izstrādātājiem piekļūt simtiem lielu valodu modeļu, izmantojot vienu galamērķi. Platforma atbalsta OpenAI, Anthropic, Google, Meta un Mistral modeļus un automātiski apstrādā atgriezenisko saiti un izmaksu ziņā efektīvu maršrutu. . OpenRouter pārskats izņemt Outtake piedāvā AI vadītu kiberdrošības automatizāciju. Tās aģentu platforma atklāj un novērš uzbrukumus stundās, automatizējot gan atklāšanu, gan reakciju. Kiberdrošības darba slodzes prasa analizēt plašus žurnālus un telemetrijas plūsmas; izmantojot OpenAI modeļus, lai šķirotu, izskaidrotu brīdinājumus un ģenerētu novēršanas skriptus, tiek patērēti miljardi žetonu. . Outtake kiberdrošības stāsts Apjukums Perplexity AI ir AI darbināma meklētājprogramma, kas atbild uz jautājumiem ar citētiem avotiem. Perplexity Pro abonementā ietilpst uzlaboti modeļi no OpenAI, piemēram, GPT-5 un OpenAI o-series modeļi, kā arī antropiskie un atvērtā koda modeļi. . Perplexity Pro palīdzības raksts Rampas Ramp ir fintech uzņēmums, kas automatizē korporatīvos izdevumus. tā AI aģenti automatizē izdevumu ziņošanu, iepirkumu un grāmatvedību. Šie aģenti, kas balstīti uz OpenAI modeļiem, ir jāpārbauda un jāinterpretē kvītis, e-pasta ziņojumi un rēķini mērogā; katrs dokuments sniedz zīmes, un kopējais apjoms no tūkstošiem klientu ātri pārsniedz triljonu. . PYMNTS ziņojums Lasīt AI Lasīt AI rada sanāksmju produktivitātes rīkus, kas automātiski apkopo sarunas, e-pastu un tērzēšanu.Tas klausās Zoom vai Google Meet zvanus un ātri apkopo sarunas, nodrošinot transkripcijas, apmācību un kondensācijas ziņojumus pa e-pasta tīkliem.Real-time transkripcija un sanāksmju un ziņojumu vēstures apkopošana korporatīvajiem klientiem noved pie milzīga žetonu patēriņa. . Silīcija raksts Roks Rox veido AI vadītu ieņēmumu operāciju platformu. Tā apvieno fragmentētus go-to-tirgus datus vienā ierakstu sistēmā un izmanto OpenAI darbināmu aģentu kopas, lai sniegtu ieskatu un automatizētu darba plūsmas pārdošanas komandām. Datu strīdi un nepārtraukta aģentu apstrāde miljoniem pārdošanas mijiedarbību noved pie smagas tokenu izmantošanas. . Atvērtais profils Salaspils Salesforce ir CRM gigants, kas iekļauj AI dziļi savos produktos. tā Einstein GPT piedāvājums ir balstīts uz OpenAI valodas modeļiem un rada personalizētu saturu (e-pastu, pārdošanas darbības, kodu) tieši Salesforce kontroles paneļos. Sistēma automatizē rutīnas uzdevumus, piemēram, e-pasta sastādīšanu un ierakstu apkopošanu miljoniem lietotāju, kas izraisa ārkārtīgi augstu tokenu izmantošanu. . Salesforce Einstein pārskats Sērija AI Sider ir pārlūkprogrammas paplašinājums, kas darbojas kā viss-in-one AI palīgs. Tas ļauj lietotājiem piekļūt vairākiem AI modeļiem (ChatGPT, Claude, Gemini), apkopo rakstus, veic grupas tērzēšanu, apkopo YouTube videoklipus un nodrošina tādus rīkus kā Wisebase (zināšanu bāze), ChatPDF un AI slaidi. Šāda plaša funkciju klāsta atbalsts miljoniem lietotāju noved pie milzīga skaita tokenizētu uzaicinājumu un atbilžu. . The Sider AI pārskats Shopify Shopify nodrošina vairāk nekā miljonu tiešsaistes veikalu. OpenAI sadarbojās ar Etsy un Shopify, lai ļautu lietotājiem tieši iegādāties preces, izmantojot ChatGPT, un Shopify tirgotāji var pārdot sarunā bez novirzēm.Kombinējiet to ar Shopify Magic, platformas ģeneratīvo AI palīgu produktu aprakstiem un mārketinga kopijām, un ir skaidrs, kāpēc žetonu izmantošana ir tik augsta. . Reuters paziņojums T-mobiļu T-Mobile izmanto ģeneratīvo AI klientu atbalstam. tā veido IntentCX, reāllaika, nodomu vadītu AI lēmumu pieņemšanas platformu ar OpenAI, kas nodrošinās nākamās labākās darbības un samazinās pakalpojumu zvanus līdz pat 75%. . CX šodienas raksts Tīģeru analīze Tiger Analytics ir konsultāciju uzņēmums, kas specializējas uzlabotajā analīzē un AI. 2024. gadā uzņēmums paziņoja par stratēģisku sadarbību ar AWS, lai paātrinātu ģeneratīvo AI risinājumu izstrādi un izplatīšanu, apvienojot savas domēna zināšanas ar AWS infrastruktūru. . CRN Indijas preses relīze Tīkls.dev Warp.dev izveido modernu, AI darbināmu terminālu. Warp integrē AI, lai ierosinātu komandas, ģenerētu kodu, novērstu kļūdas un nodrošinātu IDE līdzīgu pieredzi. Funkcijas, piemēram, Warp Drive, ļauj lietotājiem saglabāt atkārtoti lietojamas komandas un interaktīvās runbooks, savukārt AI palīgs var plānot un izpildīt sarežģītas darba plūsmas. . The Warp AI pārskats WHOOP WHOOP ir valkājams fitnesa uzņēmums, kas piedāvā personalizētu veselības apmācību. Kompānijas GPT-4-powered treneris atbild uz jautājumiem par treniņu rutīnas, atveseļošanos un miegu, izmantojot datus, ko apkopo WHOOP jostas, sniedzot vienmēr-on vadlīnijas. Tā kā katra lietotāja 24/7 sensoru dati tiek pārvērsti par ielūgumiem, token izmantošana dabiski skyrockets. . OpenAI veiksmes stāsts Zendē Zendesk ir klientu pieredzes platforma. uzņēmums sadarbojās ar OpenAI un ieviesa GPT-4o visiem Zendesk AI klientiem, ļaujot ģeneratīvajām atbildēm, kas ir trīs reizes ātrākas un precīzākas, ģenerējot cilvēka līdzīgas atbildes no zināšanu bāzēm. . Zendesk ziņas Vai Heavy Token izmantošana ir laba vai slikta? Saraksta beigās ir jājautā, vai triljoniem žetonu dedzināšana ir veselīgas izaugsmes pazīme vai izvairīšanās no izdevumiem. "Tas ir tāpat kā tērēt miljonu dolāru azartspēlēm un kazino dod jums bezmaksas viesnīcas istabu naktij" - krāsains veids, kā atzīmēt, ka dedzinošs dators negarantē ilgtermiņa vērtību. Žurnāliste Lauren Goode No pozitīvās puses, smaga žetonu izmantošana parasti norāda uz spēcīgu produktu pieņemšanu un dziļu ģeneratīvā AI integrāciju darba plūsmās, kas var attaisnot augstāku novērtējumu, uzlabojot produktivitāti un klientu apmierinātību. Attēla kredīts : Deivids Dāvis Dati, kas ekstrapolēti no OpenAI demo dienā vienu triljonu+ žetonu patērēja slaidu. Deivids Dāvis
