大規模な言語モデルは、現代のデジタル製品のコア部分です。この波の頂点には、OpenAIトークンを1兆個以上焼いた企業がいます。最近のOpenAIデモデモ・デー・スライドから抽出したテーブルは、X/Twitterで流通し始めた結果、AI API呼び出しを集合的に消費した30人の顧客をリストしています。以下は、各社が何をしているか、どのように生成型AIを展開しているか、そしてそのトークンの使用率がなぜか、どのように高いのかを簡潔に調べてみます。リストは会社によってアルファベットで順序付けられ、上記のイメージトレンドは会社の代表者の名前によってアルファベットで順序付けされました。 ブリッジ Abridgeは、医療ドキュメントに焦点を当てた環境AI企業です。医師と患者との会話を記録し、高度な自然言語処理と機械学習モデルを使用して構造化された臨床ノート(SOAPノート)にまとめ、リアルタイムの概要、アクションアイテム、主要な医療用語を生成します。何千人ものクリニックがAbridgeを使用して長い相談を翻訳し、概要することにより、トークンカウントはスケールを迅速に拡大します。 . 「Abridge AI」の概要 カナダ Canva は毎月 175 万人のユーザを持つビジュアル コミュニケーション プラットフォームです。OpenAI ケース スタジオでは、Canva の Magic Studio が GPT-4 を使用して多様なコンテンツ生成を行い、Magic Write (テキスト生成)、Magic Design (プレゼンテーションとビデオを作成)、Magic Switch (コンテンツの翻訳と調整) などの機能を有効にします。 . Canva Case Studyについて 認知 世界初のAIソフトウェアエンジニアとして認定されたDevinの背後にあるスタートアップであるCognition AI は、OpenAIのGPT-4財団モデルによって動作するDevinは、コードの書き込み、デバッグ、アプリケーションの展開などの複雑なエンジニアリングタスクを自主的に処理することができます。計画、コード、テストソフトウェアのためのエージェントループを実行するには、長いコンテキストウィンドウと繰り返しの推論ステップが必要で、トークンの使用を促進します。 . VoiceFlowの分析 コードラビット CodeRabbit は自動コードレビューおよび品質保証サービスを提供します。OpenAI のモデルを使用して、ディフを解析し、プログラムの構造を推論し、修正を提案します。 もっとのために。 CodeRabbit 製品ページ データ Datadogは、開発者やオペレーションチームが使用する観測可能なプラットフォームです。2023年のDash会議で、同社は、OpenAIのChatGPTに基づいて構築されたデジタルアシスタントであるBits AIを導入し、警告や異常などの問題に対するリアルタイムの推奨を表面化し、LLM Observabilityと呼ばれる製品を立ち上げ、カスタマイズされたLLMを監視しました。 . DevOps.com について DECAGON Decagon は完全に自動化された顧客サポートを提供します。GPT-3.5, GPT-4, GPT-4o を使用して、Duolingo、Notion、Substack などの企業で数百万件の顧客会話を処理する代理ボットを駆使します。これらのボットはサポートライフサイクル全体を処理します - 質問に答え、問題を解決し、必要に応じてエスカレートします - トークンの数が上昇する原因です。 . デカゴンの物語 デルフィ Delphi は、クリエイターや影響力のある人のためのカスタマイズされた「Digital Minds」チャットボットを構築しています。そのリリース拡張型生成(RAG)パイプラインは、これらのチャットボットをトレーニングするために、ポッドキャスト、PDF、ソーシャルメディアを吸収し、管理ベクトルデータベースを使用して、100 万件を超える埋め込みを格納します。様々なコンテンツソース源を介して数千人のデジタル人物をトレーニングし、更新することで、トークンの使用が高くなります。 . Delphi の RAG のスケーリングに関するレポート デュオリンゴ Duolingoは、世界最大の言語学習アプリで、ゲーム化されたレッスンと広範な配布で知られています。OpenAIと提携し、GPT-4をDuolingo Maxに統合し、「My Answer」やRole Playなどの機能を提供し、学習者が仮想バリスタやツアーガイドと会話し、詳細なフィードバックを受け取ることができます。これらのパーソナライズされた、コンテキスト認識の練習は、すべての学習者のクエリと応答がトークン化されているためのみ可能です。 . この記事はDuolingoのAI機能についてです。 ガンパーク AI Genspark AI(Sparksとも呼ばれる)は、元Baidu幹部のEric JingとKay Zhuによって設立された中国のAIスタートアップです。同社は、ユーザーのタスクを達成するために80以上の現実世界のツールをオーケストラするMixture-of-Agentsアーキテクチャを採用し、16000万ドルを調達し、2百万人以上のユーザーを魅了しました。 . Gensparkの紹介 ハーヴィ Harvey は、法律、税務、財務のためのセキュアな生成型AI ツールを構築しています。Harvey は OpenAI と提携して、カスタマイズされた訴訟モデルを開発しました。このプラットフォームは、文書を作成し、訴訟シナリオに関する質問に答え、契約における差異を特定できます。大手弁護士事務所が何千もの長い文書を生成し、レビューしています。 . ハーヴェイの物語 HubSpot/Dashworksについて HubSpot は、AI 駆動型の職場検索アシスタントである Dashworks を買収しました。Dashworks は、アプリを介してデータを接続し、深い検索を実行し、重要な詳細をまとめます。そのチームは、市場に参入するすべての従業員のための AI アシスタントを構築するのに役立ちます。Dashworks の企業の知識ベースの摂取と推論の能力は、大規模なコンテキストウィンドウを使用します。 . HubSpotの発表 ソリューション iSolutionsAIは、企業向けにカスタマイズされた機械学習モデルとAIチャットボットを構築します。OpenAIモデルを各クライアントのワークフローに統合すると、多くの長いコンテキストウィンドウ(クライアントクエリ、CRM履歴など)で結果が出ます。 . iSolutionsAIサービスページ 本当に 本当に世界最大の雇用市場を運営しています。そのエンジニアリングチームは、長い間、機械学習アルゴリズムを使用して、求職者と雇用主と一致し、過去数年間で、これらの推奨を改善するために生成型AIモデルを追加しました。 . 本当にCIOのインタビュー ジェットブライン JetBrainsは、IntelliJやPyCharmのような人気のある開発ツールを開発しています。そのAIアシスタントはOpenAIのAPIによって動作し、同社はその高度な推論と使いやすさのために統合しています。このアシスタントは、何百万もの開発者がテスト、リファクターコード、コミットメッセージを書き、エラーを明確にするのに役立ちます。ユーザーベースの規模を考えると、単純なコードの提案さえも巨大なトークン数に翻訳されます。 . JetBrains AI アシスタント FAQ 自由市場 Mercado Libreは、ラテンアメリカ最大の電子商取引およびフィンテック企業です。同社は、GPT-4oとその他のモデルを活用して、クライアントサービスの仲介、詐欺検出、ローカリゼーション、および概要レビューなどの複雑なタスクに対処するためのAI開発プラットフォームであるVerdiを構築しました。 . 緑の概要 概念 Notion は、書き込み、計画、および知識管理のための接続されたワークスペースです. It transformed its product into a deeply AI-powered platform by integrating OpenAI models to summarize pages, generate writing, and answer questions across the workspace. The combination of a massive user base and generative features like Notion AI leads to an enormous token footprint. Notion AI は、ページをまとめ、書き出しを生成し、ワークスペース全体で質問に答えました. Notion AI のような巨大なユーザベースと生成機能の組み合わせは、巨大なトークンの足跡をもたらします。 . オープンストーリー OpenRouter OpenRouter は市場スタイルの API を実行し、開発者が単一エンドポイントを通じて数百の大きな言語モデルにアクセスできるようにします。このプラットフォームは OpenAI、Anthropic、Google、Meta、Mistral モデルをサポートし、自動的にバックバックおよびコスト効率的なルーティングを処理します。何千ものクライアントアプリケーションによって作成されたすべてのリクエストが OpenRouter を通じてプロキシされているため、同社の累積トークン数は急速に増加しました。 . OpenRouterの概要 脱出 OuttakeはAI駆動型のサイバーセキュリティオートメーションを提供しています。その代理プラットフォームは数時間で攻撃を検出し、修正し、検出と対応の両方を自動化します。サイバーセキュリティワークロードには、広範なログとテレメトリーストリームの分析が必要です。OpenAIモデルを使用して分類し、警告を説明し、修正スクリプトを生成し、何十億ものトークンを消費します。 . 『Outtake Cybersecurity Story』 戸惑い Perplexity Pro サブスクリプションには、OpenAI の GPT-5 および O-Series モデルなど、OpenAI の高度なモデルが含まれており、人類学的およびオープンソースのモデルとともに、ユーザーがプロ検索を実行するとき、システムは OpenAI モデルを呼び出すことがあります。 . The Perplexity Pro ヘルプ記事 ランプ Rampは、企業支出を自動化するフィンテック企業です。そのAIエージェントは、支出報告、調達、会計を自動化します。OpenAIモデルに基づいて構築されたこれらのエージェントは、レセプション、電子メール、請求書を規模で解析し解釈しなければなりません。各ドキュメントはトークンを貢献し、数千人の顧客からの合計ボリュームはすぐに1兆を超えています。 . PYMNTSのレポート 読む AI Read AI は会議生産性ツールを作成し、会話、電子メール、チャットを自動的にまとめます。Zoom または Google Meet 通話に耳を傾け、会話を迅速にまとめ、電子メールのトレイドを通じてトランスクリプト、コーチング、コンデンシングメッセージを提供します。 . siliconangleの記事一覧 ロックス Rox は AI 駆動の収益運用プラットフォームを構築しています。それは分断された市場へのデータを一つのレコードシステムに統合し、OpenAI 駆動エージェントの群れを使用して、セールス チームに洞察を提供し、ワークフローを自動化しています。 . オープンプロフィール セールスフォース Salesforce は、AI を製品に深く組み込む CRM ギャングです。その Einstein GPT オファーは OpenAI の言語モデルに基づいて構築され、Salesforce ダッシュボードに直接パーソナライズされたコンテンツ (メール、販売アクション、コード) を生成します。 . Salesforce Einsteinの概要 サイド AI Sider はすべての AI アシスタントとして機能するブラウザの拡張子です. ユーザーに複数の AI モデル (ChatGPT, Claude, Gemini) へのアクセスを提供し、記事をまとめ、グループチャットを実行し、YouTube ビデオをまとめ、Wisebase (知識ベース)、ChatPDF、AI スライドなどのツールを提供します. 何百万ものユーザーのための機能の幅広い範囲をサポートすることは、大量のトークン化されたプロンプトや応答につながります。 . THE SIDER AI レビュー Shopify Shopifyは100万以上のオンラインストアを運営しています。OpenAIはEtsyとShopifyと提携して、ユーザーがChatGPTを通じて直接アイテムを購入することを可能にし、Shopifyのマーケターは会話中にリダイレクトなしで販売することができます。これをプラットフォームの生成型AIアシスタントであるShopify Magicと組み合わせ、製品説明とマーケティングコピーのためのトークン使用がなぜ高いのかは明らかです。 . ロイターの発表 Tモバイル T-Mobileは、OpenAIを搭載したリアルタイムで意図的なAI決定プラットフォームであるIntentCXを構築しており、次に最良のアクションを提供し、サービス呼び出しを最大75%削減します。 . CX 今日の記事 タイガー分析 Tiger Analyticsは、高度な分析とAIに特化したコンサルティング会社です。2024年には、AWSと戦略的提携を発表し、生成型AIソリューションの開発と展開を加速し、そのドメイン専門知識とAWSのインフラストラクチャを組み合わせました。 . CRN インド 報道 トップ > DEV Warp.dev は最新の AI 駆動端末を構築します。Warp は AI を統合してコマンドを提案し、コードを生成し、エラーを修正し、IDE のような体験を提供します。Warp Drive のような機能により、ユーザーは再利用可能なコマンドやインタラクティブなランブックを保存できますが、AI アシスタントは複雑なワークフローを計画し、実行することができます。AI とのそれぞれの相互作用は言語モデルを呼び出し、高いトークン消費を生みます。 . 「WARP AI Overview」 WHOOP WHOOPは、パーソナライズされた健康コーチングを提供する着用可能なフィットネス会社です。同社のGPT-4駆動トレーナーは、WHOOPのベルトによって収集されたデータを使用して、トレーニングルーチン、回復、睡眠に関する質問に答え、常にガイドラインを提供します。 . OpenAIの成功ストーリー ゼンデスク Zendeskは顧客体験プラットフォームです。同社はOpenAIと提携し、すべてのZendesk AI顧客にGPT-4oを展開し、知識ベースから人間のような回答を生成するのに3倍速く、より正確な生成応答を可能にしました。 . Zendeskニュースリリース 重いトークンの使用は良いか悪いか? リストの終わりに、何兆トークンの燃焼が健全な成長の兆しなのか、あるいは無駄な支出なのかを尋ねなければなりません。 「これは100万ドルをギャンブルに費やすようなものだし、カジノはあなたに夜間無料のホテルルームを提供する」 - 燃えるコンピュータは長期的な価値を保証しないという色彩のある方法です。 ジャーナリスト ローレン・グッド ポジティブな面では、重いトークンの使用は通常、製品の強力な採用と生成型AIのワークフローへの深い統合を示し、生産性と顧客満足度の向上を通じてより高い評価を正当化することができます。 画像クレジット: デイジーダス OpenAIのデモからエクストラポレートしたデータは、1日1兆トークンのスライドを消費した。 デイジーダス
