Grote taalmodellen zijn een essentieel onderdeel van moderne digitale producten. Op de top van deze golf zijn de bedrijven die meer dan een biljoen OpenAI-tokens hebben verbrand. De tabel, geëxtrapoleerd uit een recente OpenAI-demo-dagslide en daarmee begonnen te circuleren op X/Twitter, vermeldt 30 klanten die collectief een opvallende hoeveelheid AI API-oproepen hebben geconsumeerd. Hieronder is een diepere blik op wat elk bedrijf doet, hoe ze generatieve AI implementeren, en een korte blik op waarom en hoe hun tokengebruik zo hoog kan zijn. Abridge Abridge is een omgeving AI-bedrijf gericht op gezondheidszorgdocumentatie. Het registreert gesprekken tussen artsen en patiënten en samenvat ze in gestructureerde klinische notities (SOAP-notities) met behulp van geavanceerde natuurlijke taalverwerking en machine-learning-modellen, het genereren van real-time samenvattingen, actie items en belangrijke medische termen. Met duizenden clinici die Abridge gebruiken om lange raadplegingen te transcriberen en samen te vatten, telt token snel. . Overzicht van Abridge AI Canva Canva is een visueel communicatieplatform met 175 miljoen maandelijkse gebruikers. Een OpenAI-case study beschrijft hoe Canva's Magic Studio GPT-4 gebruikt voor multimodale contentgeneratie en functies mogelijk maakt zoals Magic Write (tekstgeneratie), Magic Design (creatie van presentaties en video's), Magic Switch (vertaling en aanpassing van inhoud) en meer. . Canva case studie Kognitie Cognition AI is de startup achter Devin, gefactureerd als 's werelds eerste AI-softwareingenieur. Devin, aangedreven door OpenAI's GPT-4 basismodel, kan op autonome wijze complexe technische taken aanpakken, zoals het schrijven van code, het debuggen en het implementeren van applicaties. . Analyse van Voiceflow CodeRabbit CodeRabbit biedt geautomatiseerde code-examen en kwaliteitsborgingsdiensten. het gebruikt de modellen van OpenAI om diffs te analyseren, redeneren over de structuur van het programma en correcties voorstellen; continue code-examen in duizenden repositories leidt tot extreem grote token tellen. Voor meer . CodeRabbit productpagina Datadog Datadog is een waarnemingsplatform dat wordt gebruikt door ontwikkelaars en operationele teams. Tijdens de 2023 Dash-conferentie introduceerde het bedrijf Bits AI, een digitale assistent gebouwd op OpenAI's ChatGPT die real-time aanbevelingen voor kwesties zoals waarschuwingen en anomalieën plaatst, en lanceerde een product genaamd LLM Observability om aangepaste LLM's te monitoren. Omdat Bits AI is geïntegreerd in dashboards die duizenden diensten en logboeken monitoren, en omdat LLM Observability aanbevelingen en antwoorden analyseert, is het aantal tokens enorm. . Op DevOps.com Decagon Decagon biedt volledig geautomatiseerde klantondersteuning. Het maakt gebruik van GPT-3.5, GPT-4, en GPT-4o om agentische bots te ondersteunen die miljoenen klantgesprekken over bedrijven zoals Duolingo, Notion en Substack verwerken. Deze bots verwerken de gehele levenscyclus van de ondersteuning – vragen beantwoorden, problemen oplossen en escaleren wanneer dat nodig is – waardoor het aantal tokens stijgt. . Het verhaal van Decagon Delphi Delphi bouwt gepersonaliseerde "Digital Minds" chatbots voor makers en influencers. Zijn RAG-pipeline gebruikt podcasts, PDF's en sociale media om deze chatbots te trainen en maakt gebruik van een beheerde vectordatabase om meer dan 100 miljoen embeddings op te slaan. . Dit rapport over de scaling van Delphi met RAG Duolingo Duolingo is 's werelds grootste taalleren app, bekend om zijn gamified lessen en brede distributie. Het partnerde met OpenAI om GPT-4 te integreren in Duolingo Max, die functies biedt zoals "Explain My Answer" en Role Play, waardoor leerlingen conversaties kunnen hebben met een virtuele barista of tour guide en gedetailleerde feedback kunnen ontvangen. . Dit artikel over de AI-functies van Duolingo Genspark AI Genspark AI (ook bekend als Sparks) is een Chinese AI-start-up opgericht door voormalige Baidu-bestuurders Eric Jing en Kay Zhu. Het bedrijf maakt gebruik van een Mixture-of-Agents-architectuur die meer dan 80 echte tools orchestreert om gebruikerstaken te volbrengen, heeft 160 miljoen dollar opgehaald en heeft meer dan twee miljoen gebruikers aangetrokken. . Genspark introductie Harvey Harvey bouwt veilige generatieve AI-tools voor wetgeving, belastingen en financiën. Harvey partnerde met OpenAI om een aangepast model van jurisprudentie te ontwikkelen; het platform kan documenten opstellen, vragen beantwoorden over geschillencenario's en discrepanties in contracten identificeren. . Het verhaal van Harvey HubSpot en Dashworks HubSpot heeft Dashworks overgenomen, een AI-gestuurde werkplekzoekassistent. Dashworks verbindt gegevens over apps, voert diepgaande zoekopdrachten uit en resumeert belangrijke details. Zijn team helpt AI-assistenten op te bouwen voor elke go-to-market werknemer. Dashworks' vermogen om in te nemen en te redeneren over corporate kennisbanken maakt gebruik van grote contextvensters; het integreren van dit in HubSpot's Breeze Copilot vermenigvuldigt tokengebruik over duizenden klanten. . De aankondiging van HubSpot Oplossingen iSolutionsAI bouwt aangepaste machine-learningmodellen en AI-chatbots voor bedrijven.Het integreren van OpenAI-modellen in de workflow van elke client resulteert in vele lange contextvensters (klantquesties, CRM-geschiedenis, enz.), wat het hoge tokenvolume verklaart. . de iSolutionsAI diensten pagina werkelijk Indeed exploiteert de grootste arbeidsmarkt ter wereld. Zijn engineering team heeft al lang machine-learning-algoritmen gebruikt om werkzoekenden en werkgevers te matchen, en in de afgelopen jaren heeft het generatieve AI-modellen toegevoegd om deze aanbevelingen te verbeteren. Het matchen van miljoenen cv's met miljoenen jobbeschrijvingen vereist enorme volumes inferentie. . Het interview van de CIO JetBrains JetBrains maakt populaire ontwikkelaarshulpmiddelen zoals IntelliJ en PyCharm. De AI-assistent wordt aangedreven door de API van OpenAI, die het bedrijf heeft geïntegreerd vanwege zijn geavanceerde redenering en gebruiksgemak. De assistent helpt miljoenen ontwikkelaars met het genereren van tests, refactorcode, het schrijven van commissieberichten en het verduidelijken van fouten. Gezien de omvang van zijn gebruikersbestand, worden zelfs eenvoudige codevoorstellen vertaald in enorme token getallen. . JetBrains’ AI-assistent FAQ Vrije markt Mercado Libre is het grootste e-commerce- en fintechbedrijf van Latijns-Amerika. Het bedrijf bouwde Verdi, een AI-ontwikkelingsplatform dat gebruik maakt van GPT-4o en andere modellen om complexe taken te verwerken, zoals klantenservice-mediation, fraudedetectie, lokalisatie en samenvatting beoordelingen. . Overzicht van de Verdi Begrip Notion is een verbonden werkruimte voor schrijven, plannen en kennisbeheer. Het transformeerde zijn product in een diep AI-gedreven platform door OpenAI-modellen te integreren om pagina's te samenvatten, schrijven te genereren en vragen over de werkruimte te beantwoorden.De combinatie van een enorme gebruikersbasis en generatieve functies zoals Notion AI leidt tot een enorme tokenvoetafdruk. . Het open verhaal OpenRouter OpenRouter voert een Marketplace-stijl API die ontwikkelaars in staat stelt om toegang te krijgen tot honderden grote taalmodellen via een enkel eindpunt. Het platform ondersteunt OpenAI, Anthropic, Google, Meta en Mistral modellen en verwerkt automatisch fallback en kosteneffectieve routing. Omdat elke aanvraag van duizenden client-applicaties wordt geproxieerd via OpenRouter, wordt het cumulatieve token tellen van het bedrijf snel geblazen. . Overzicht van OpenRouter uitstapje Outtake biedt AI-gedreven cybersecurity-automatisering. Zijn agent-platform detecteert en remediëert aanvallen in uren, waarbij zowel detectie als reactie worden geautomatiseerd. cybersecurity-werkbelastingen vereisen het analyseren van uitgebreide logs en telemetrie-stromen; het gebruik van OpenAI-modellen om waarschuwingen te sorteren, uit te leggen en herstel-scripts te genereren verbruikt miljarden tokens. . Het Outtake Cybersecurity verhaal Verwarring De Perplexity Pro-abonnement omvat geavanceerde modellen van OpenAI, zoals GPT-5 en de o-serie modellen van OpenAI, naast Anthropic en open-source modellen. Wanneer gebruikers pro-zoekopdrachten uitvoeren, kan het systeem OpenAI-modellen bellen voor diepe redenering en webzoekopdrachten. . De Perplexity Pro help artikel Ramp Ramp is een fintechbedrijf dat bedrijfsuitgaven automatiseert. Zijn AI-agenten automatiseren uitgavenrapportage, inkoop en boekhouding. Deze agenten, gebouwd op OpenAI-modellen, moeten ontvangsten, e-mails en facturen op grote schaal analyseren en interpreteren; elk document draagt tokens bij, en het geaggregeerde volume van duizenden klanten overschrijdt snel een biljoen. . PYMNTS’ verslag Lees AI Lees AI creëert tools voor vergaderproductiviteit die gesprekken, e-mails en chats automatisch samenvatten. Het luistert naar Zoom- of Google Meet-oproepen en samenvat gesprekken snel, waardoor transcripties, coaching en condensatie van berichten over e-maildraden worden geleverd. real-time transcriptie en samenvatting van vergader- en berichtgeschiedenis voor zakelijke klanten leidt tot enorme tokenconsumptie. . Het artikel van Siliconangle Rox Rox bouwt een AI-gedreven platform voor inkomsten-operaties. Het verenigt gefragmenteerde go-to-market-gegevens in een enkel recordsysteem en maakt gebruik van swarms van OpenAI-gedreven agenten om inzichten te leveren en werkstromen te automatiseren voor verkoopteams. . Het open profiel Salesforce Salesforce is een CRM-gigant die AI diep in zijn producten integreert. Zijn Einstein GPT-aanbod is gebouwd op de taalmodellen van OpenAI en genereert gepersonaliseerde inhoud (e-mails, verkoopacties, code) rechtstreeks in Salesforce-dashboards. . Overzicht van Salesforce Einstein Sider AI Sider is een browser-extensie die fungeert als een all-in-one AI-assistent. Het geeft gebruikers toegang tot meerdere AI-modellen (ChatGPT, Claude, Gemini), samenvat artikelen, voert groepsgesprekken uit, samenvat YouTube-video's en biedt tools zoals Wisebase (kennisbasis), ChatPDF en AI Slides. Het ondersteunen van zo'n breed scala aan functies voor miljoenen gebruikers leidt tot een groot aantal tokenized prompts en antwoorden. . De Sider AI beoordeling Shopify OpenAI partnerde met Etsy en Shopify om gebruikers in staat te stellen items rechtstreeks via ChatGPT te kopen, met Shopify-handelaars in staat om binnen het gesprek te verkopen zonder omleidingen. Combineer dat met Shopify Magic, de generatieve AI-assistent van het platform voor productbeschrijvingen en marketingcopie, en het is duidelijk waarom tokengebruik zo hoog is. . De aankondiging van Reuters De T-Mobile T-Mobile maakt gebruik van generatieve AI voor klantondersteuning. het bouwt IntentCX, een real-time, intention-driven AI-beslissingsplatform met OpenAI dat de volgende beste acties zal leveren en service-oproepen met maximaal 75% zal verminderen. . CX van vandaag De Tiger Analytics Tiger Analytics is een adviesbureau dat gespecialiseerd is in geavanceerde analytics en AI. In 2024 kondigde het bedrijf een strategische samenwerking aan met AWS om de ontwikkeling en de implementatie van generatieve AI-oplossingen te versnellen, waarbij zijn domein-expertise wordt gecombineerd met de infrastructuur van AWS. . CRN India persbericht Winkelen.dev Warp.dev bouwt een modern, AI-aangedreven terminal. Warp integreert AI om opdrachten voor te stellen, code te genereren, fouten op te lossen en een IDE-achtige ervaring te bieden. Functies zoals Warp Drive stellen gebruikers in staat herbruikbare opdrachten en interactieve runbooks op te slaan, terwijl de AI-assistent complexe workflows kan plannen en uitvoeren. Elke interactie met de AI roept taalmodellen op, wat resulteert in een hoog tokenverbruik. . De Warp AI overzicht WHOOP WHOOP is een draagbaar fitnessbedrijf dat gepersonaliseerde gezondheidscoaching biedt. De GPT-4-aangedreven coach van het bedrijf beantwoordt vragen over trainingsroutines, herstel en slaap met behulp van gegevens die door de WHOOP-band worden verzameld, en levert altijd-op-gids. Omdat de 24/7 sensorgegevens van elke gebruiker worden omgezet in aanwijzingen, wordt het gebruik van tokens natuurlijk skyrockets. . Het succesverhaal van OpenAI Zendesk Zendesk is een platform voor klantervaring.Het bedrijf partnerde met OpenAI en lanceerde GPT-4o voor alle Zendesk AI-klanten, waardoor generatieve antwoorden drie keer sneller en nauwkeuriger zijn bij het genereren van menselijke antwoorden uit kennisbanken. . Het nieuws van Zendesk Is Heavy Token gebruik goed of slecht? Aan het einde van de lijst moet men zich afvragen of het doorbranden van biljoenen tokens een teken is van gezonde groei of ontlopende uitgaven. "Dit is als het uitgeven van een miljoen dollar gokken en het casino geeft je een gratis hotelkamer voor de nacht" - een kleurrijke manier om op te merken dat het verbranden van computing geen langetermijnwaarde garandeert. De journalist Lauren Goode Aan de positieve kant duidt zwaar tokengebruik meestal op sterke productadoptie en diepe integratie van generatieve AI in workflows, wat hogere waarderingen kan rechtvaardigen door verbeterde productiviteit en klanttevredenheid. Het beeldkrediet: Deed het Gegevens geëxtrapoleerd van OpenAI demo dag een biljoen+ tokens verbruikt dia. Deed het
