予測可能な機械のビジネスケース、ジェミニー生成の回答 最初のブログ記事 Thinking Machine Labsについて Thinking Machine Labsについて これらのAIシステムは、市場の決定主義のために明示的に構成された場合でも、同一のインプットのための同一の出力を生成するための有益な能力を再現する可能性は、大規模な固定言語モデル(LLMs)のスケーリングにおける重要な、しかししばしば無視された課題です。多くのユーザーは、これを小規模なバグまたは「創造的な」モデルの不幸な副作用として認識することができますが、この分析は、実際には、AI業界の成熟のための重要な障壁であることを示しています。問題は、単に技術的な一つではなく、高賭け、高価値のワークフローを自動化することを約束するビジネスモデルへの根本的な障害です。研究で詳細に述べたように、LLMの推測は基本的に確率的であり、 「LLM Inference」の「Nondeterminism in LLM Inference」 「Defeating Non-Determinism」の記事一覧 ブログ記事 from これは、エンジンとルーティングを組み合わせることで、この製品の複雑さと効率性は、単一のプロセスによって生成されます。この製品は、単一のプロセスによって生成されます。この製品は、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセスによって、単一のプロセ マシンマシン.AI なぜこれがAIの突破口になるのか これらの研究は、現時点で、リベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラルなリベラ なぜこれが突破ではないのか:発見ではなく、エンジニアリングの問題 While the achievement of a truly deterministic LLM is a monumental step forward, it may not be a "breakthrough" in the same vein as the discovery of the Transformer architecture or backpropagation. A close examination of the available information suggests that this may be a sophisticated engineering solution to a known problem, rather than a fundamental scientific discovery. The sources of non-determinism—random seeds, temperature scaling, and MoE routing—are not novel discoveries.1 Setting temperature=0 has long been the standard for attempting deterministic output, and the issues with MoE batching have been a known challenge in production environments. The problem has been a persistent engineering challenge for some time, and the industry has developed a variety of methods to work around it, even if they are not perfect. These workarounds include "validation and retry logic" and "structured output modes" with JSON schemas and function calling.10 These techniques demonstrate that the industry has been grappling with this issue for some time, treating it as a difficult, but not insurmountable, problem. The blog post is therefore likely discussing a highly optimized, production-level implementation that finally solves these issues at scale, rather than a new theoretical model or algorithm. This is a critical distinction between "breakthrough research" and "breakthrough engineering." This accomplishment, if successful, creates a significant competitive advantage in a crowded market. A difficult engineering feat creates a new barrier to entry that may prevent other labs and startups from replicating this level of determinism at a commercial scale. This would give the company behind the blog post a significant advantage, particularly in attracting high-value enterprise clients who prioritize reliability above all else. The "breakthrough" is not an open-source model or a new paper; it is a proprietary capability that validates their business model and their ability to execute on their strategic goals. The appearance of such a "breakthrough" in a company blog post rather than a peer-reviewed paper is telling. It suggests that the company is not sharing a scientific secret but is rather demonstrating a unique, proprietary capability that will be used to attract and retain the most valuable customers. How Determinism Relates to AI Lab Fundraising(AIラボ資金調達) AIの資金調達と顧客へのコミットメントは、これらの資金調達と市場へのコミットメントを予測するためのインフラストラクチャとインフラストラクチャのインフラストラクチャへのコミットメントである。これらの資金調達と市場へのコミットメントは、世界の主要なインフラストラクチャ(OpenAI、Anthropic、Cohere)のプラットフォーム上のインフラストラクチャを予測するための明確な焦点である。これらの顧客へのコミットメントは、市場への資金調達とプラットフォームへのコミットメントの必要性を明らかにしています。13 OpenAIの「スターゲート」イニシアチブ:OpenAIのブログ投稿で議論された最近の830億ドルの資金調達は、この新しい市場 主要AIラボの戦略的必要性と資金調達 Lab Latest Funding Round Latest Valuation Key Strategic Focus Relation to Determinism OpenAI 8.3 billion dollars 300 billion dollars Stargate Initiative: 500 billion dollars AI infrastructure investment 14 Required to justify massive infrastructure investment with high-value enterprise products. Anthropic 13 billion dollars 183 billion dollars "Steerable AI" & "Safety research" 4 A core component of "reliable" and "interpretable" systems. Cohere 500 million dollars 6.8 billion dollars Enterprise B2B / "Sovereign AI" 5 A prerequisite for security, compliance, and on-premise solutions for high-stakes industries. OpenAI 8.3 billion dollars 300 billion dollars Stargate Initiative: 500 billion dollars AI infrastructure investment 14 Required to justify massive infrastructure investment with high-value enterprise products. Anthropic 13 billion dollars 183 billion dollars "Steerable AI" & "Safety research" 4 A core component of "reliable" and "interpretable" systems. Cohere 500 million dollars 6.8 billion dollars Enterprise B2B / "Sovereign AI" 5 A prerequisite for security, compliance, and on-premise solutions for high-stakes industries. この作業の意義を完全に理解するためには、LLM推定の技術的根拠と非決定主義の正確な源を調べる必要がある。LLM推定のプロセスは自動回帰的で、それはトークンごとにテキストトークンを生成することを意味します。各ステップで、モデルは「logits」のベクトルを計算するための前進パスを実行し、その辞書の各単語に対して「logits」の原数出力を計算します。ソフトマックス機能はその後、これらのlogitsを全辞書の確率分布に変換し、すべての確率が1に合計します。 最も単純で最も一般的な「決定的な」解読戦略は貪欲な解読である。この方法では、各ステップで、モデルは単に最も高い確率を持つトークンを選択します。これは数学的に確率分布のargmaxです。温度パラメータは、0に設定すると、理論的にこの行動を強制し、プロセスは完全に決定的で再生可能でなければなりません。 しかしながら、研究が示しているように、この理論的完璧さは実践で崩壊します。ブログ投稿と関連する研究資料は、不完全性の2つの主な源を明らかにします。最初のものは浮動ポイント非決定主義です。LLMの前進パスに関わる基本的な計算は、浮動ポイント数値に依存し、異なるハードウェアで同一であることは保証されていません、または異なる並列化スケジュールを持つ同じハードウェアでさえありません.3 操作の順序は、最終的な確率値のわずかな差異につながります。 二つ以上のトークンがほぼ同一のトップ確率を持っているとき、例えば、 P(a)=0.9999999 と P(b)=0.9999998,これらのミニ違いは、 argmax が異なる次なるトークン選択を引き起こし、異なる次なるトークン選択を引き起こす可能性があります。 MoEモデルでは、異なる専門家へのトークンのルーティングは、計算の重要な部分です。しかし、このルーティングは、トークン自体だけではなく、その時点で処理されているトークンのすべてのバッチに基づいています。利用可能な研究は、トークンのグループが異なる順序からの入力を含むとき、「彼らは専門家バッファースポットのために競争し、実行中の異なる専門家の割り当てを生み出す」ことを明確に示しています。1 これは、単一の繰り返しのクエリが、毎回異なるユーザー要請とバッチされ、与えられた入力が常に同一のコンピュータ出力に従い、0の温度でさえ変動的な出力を生み出すことを意味します。ブログの投稿の解決策は、 Speculation About the Future Sourced From Gemini Flash 2.5 「未来を構築する」という行為はもはや単なる野望ではなく、絶え間ない革新と大胆な憶測によって駆り立てられるアクティブで継続的なプロセスです。このセクションは、予測、技術開発、そして人間の要素の複雑な相互作用に深く注目しています、特にそれは私たちのデジタル世界を形作るビジョナーに関連しています。 この未来の構築の中心は、大胆な想像力と実践的な実行の組み合わせである。新技術を概念化するだけでなく、その社会的影響、倫理的影響、パラダイム転換の可能性を予測することも含む。 「新興パラダイム」の概念は、このプロセスを分析するための重要なレンズとして機能します. This term embodies a particular approach to technological progress characterized by: 野心的な長期ビジョン:市場の直ちの傾向を超え、人間の相互作用と経験の根本的な変化に焦点を当てた明確で、しばしば大胆な長期的な目標。 Iterative Development and Risk-Taking: A commitment to continuous iteration, rapid prototyping, and a willingness to take significant risks, even if it means encountering setbacks or skepticism. 「速く動き、物事を壊す」(たとえ後で洗練された)のマントラは、この初期の哲学を包み込んだ。 生態系構築:広範な採用を奨励し、第三者の開発を可能にする包括的なプラットフォームと生態系の作成に焦点を当て、したがってテクノロジーの範囲と有用性を拡大する。 接続と経験に重点を置く:コミュニケーション、エンターテイメント、または新しい形の存在を通じて、人々を接続し、彼らの経験を向上させる技術の力への核心的な信念。 適応戦略:テクノロジーの進歩、ユーザーのフィードバック、市場の変化に応じて戦略を回転させ、適応する能力を有し、総合的なビジョンを維持する。 したがって、未来を構築する「新興パラダイム」は、単に一連の技術的進歩を示すのではなく、完全に新しいデジタル領域を想像し、構築し、普及するために必要な戦略的思考を包み込むことになる。 このアプローチは、未来は単に発見されるのではなく、意図的な選択、大規模な投資、そして最初に奇妙に見えるアイデアを追求する勇気によって積極的に構築されていることを認識しています。それは「存在」や「相互接続」などの抽象的な概念を有意義でスケーラブルな技術的ソリューションに翻訳することです。それゆえ、「投機」の構成要素は、空虚な夢ではなく、予測における規律的な練習であり、資源の割り当てと研究開発の方向を導いており、すべての概念の未来を生み出す究極の目的を持っています。 決定主義が現在解決された問題で、AIラボは新しいクラスの製品を構築し始めることができます。最も直ちに適用されるのは、「監査可能なエージェント」で、タスクを自動化するだけでなく、彼らの「推論」の検証可能な、段階的な痕跡を提供します。 この進化は、特定主義的および生成主義的なアプローチを組み合わせた「ハイブリッドシステム」を生み出す可能性があります.6 このようなシステムでは、創造的で確率主義的なLLMは、その後、決定主義的なLLMによって精密化され、実施されるアイデアの幅広い範囲を生成することができ、最終的な出力は一貫性があり、信頼性があり、既定のルールまたはスケジュールに準拠しています。 人々はメタアバースについて話し、彼らはソーシャルについて話し、彼らはこれらのすべてのことを話しているが、基本的な現実は、我々は人と機械の次世代の相互作用のためのインフラストラクチャを構築しているということです。長い間、生成型AIはこの驚くべき創造力でしたが、それはランダムでした。それは人間のようなものであり、あなたは単に...ランダムな何かの上に信頼できるビジネスを構築することはできません。研究者のグループが指摘したように、「出力のフォーマットの不安定性は下流のパッサーの失敗につながる可能性があります」2 それは、スケーラブルなプラットフォームを構築する方法ではありません。 私たちは、OpenAIの友人が巨大な「830億ドルを40億ドルの資金調達に向けて」14、Anthropicの友人が「13BシリーズF」4を調達しているのを見てきました。これは消費者のハイプの話ではありません。これは、現実世界のための「エンタープライズクラスのAIインフラストラクチャ」13を構築することです。これは、AIエージェントが信頼性、予測性、監査可能である必要がある仕事の未来についてです。 私たちが焦点を当てているのは、より大きなモデルを構築することだけではなく、新たな基盤を構築することです。同じ入力が与えられ、同じ出力が得られる基盤です。それはそれほど単純です。それはそれほど深いものです。これは成長の次の段階を解除し、私たちが展開している前例のない資本――OpenAIの$500B Stargateイニシアチブ14のようなものを資金提供する資本の種類―が、現実的なものと予測可能なものへの賭けであることを証明しています。 源泉 幅広い言語モデル(LLM)における一貫性と再生可能性の達成 EI AI Mind, accessed September 10, 2025, https://pub.aimind.so/creating-deterministic-consistent-and-reproducible-text-in-llms-e589ba230d44 Non-Determinism of “Deterministic” LLM Settings - arXiv, accessed September 10, 2025, https://arxiv.org/html/2408.04667v4 温度0は決定的なLLMの出力を保証しますか? - ヴィンセント・シュマルバッハ、2025年9月10日にアクセスしました https://www.vincentschmalbach.com/does-temperature-0-guarantee-deterministic-llm-outputs/ Anthropic raises $13B Series F at $183B post-money valuation, accessed September 10, 2025, https://www.anthropic.com/news/anthropic-raises-series-f-at-usd183b-post-money-valuation Cohere は、エージェント AI で企業の効率性を加速するために $ 500M を $ 6.8B で調達し、2025 年 9 月 10 日にアクセスしました https://www.investpsp.com/en/news/fresh-funding-enables-cohere-to-accelerate-its-global-expansion-and-build-the-next-generation-of-secure-enterprise-and-sovereign-ai-solutions/ Deterministic vs. Generative AI: Key Differences - Sombra, accessed September 10, 2025, https://sombrainc.com/blog/deterministic-vs-generative-ai AIの3つの面を理解する: Deterministic, Probabilistic, and Generative EI 人工知能 EI MyMobileLyfe EI AI Consulting and Digital Marketing, accessed September 10, 2025, https://www.mymobilelyfe.com/artificial-intelligence/understanding-the-three-faces-of-ai-deterministic-probabilistic-and-generative/ Generation strategies - Hugging Face, accessed 2025年9月10日, https://huggingface.co/docs/transformers/generation_strategies 言語モデルの解読戦略: LLMs 次の言葉を選ぶ方法? 2025年9月10日、アクセス https://www.metriccoders.com/post/decoding-strategies-in-language-models-how-do-llms-pick-the-next-word なぜLLMの決定的な出力がほぼ不可能であるかを理解する - 概要なし、2025年9月10日にアクセスしました https://unstract.com/blog/understanding-why-deterministic-output-from-llms-is-nearly-impossible/ LLMの再生可能性についてAritra Biswasは、2025年9月10日にアクセスしました https://www.aritro.in/post/on-llm-reproductibility/ Reproducible AI: Why it Matters & How to Improve it - Research AIMultiple, accessed September 10, 2025, https://research.aimultiple.com/reproducible-ai/ Cohere Raises $500M, Hits $6.8B Valuation Uniberts Raison Early Investor, accessed September 10, 2025, https://raison.app/news/portfolio-companies/cohere-raises-500m-at-6-8b-valuation-enterprise-ai-becomes-the-next-battleground OpenAI Raises $8.3B Toward Its $40B Fundraise - Maginative, accessed September 10, 2025, https://www.maginative.com/article/openai-raises-8-3b-toward-its-40b-fundraise/ OpenAIは300億ドルの評価で830億ドルを調達 - Cosmico, accessed September 10, 2025, https://www.cosmico.org/openai-raises-8-3-billion-at-a-300-billion-valuation/ Anthropic - Join Prospect, accessed 2025年9月10日 https://www.joinprospect.com/company/anthropic https://pub.aimind.so/creating-deterministic-consistent-and-reproducible-text-in-llms-e589ba230d44 https://arxiv.org/html/2408.04667v4 https://www.vincentschmalbach.com/does-temperature-0-guarantee-deterministic-llm-outputs/ https://www.anthropic.com/news/anthropic-raises-series-f-at-usd183b-post-money-valuation https://www.investpsp.com/en/news/fresh-funding-enables-cohere-to-accelerate-its-global-expansion-and-build-the-next-generation-of-secure-enterprise-and-sovereign-ai-solutions/ https://sombrainc.com/blog/deterministic-vs-generative-ai https://www.mymobilelyfe.com/artificial-intelligence/understanding-the-three-faces-of-ai-deterministic-probabilistic-and-generative/ https://huggingface.co/docs/transformers/generation_strategies https://www.metriccoders.com/post/decoding-strategies-in-language-models-how-do-llms-pick-the-next-word https://unstract.com/blog/understanding-why-deterministic-output-from-llms-is-nearly-impossible/ https://www.aritro.in/post/on-llm-reproducibility/ https://research.aimultiple.com/reproducible-ai/ https://raison.app/news/portfolio-companies/cohere-raises-500m-at-6-8b-valuation-enterprise-ai-becomes-the-next-battleground https://www.maginative.com/article/openai-raises-8-3b-toward-its-40b-fundraise/ https://www.cosmico.org/openai-raises-8-3-billion-at-a-300-billion-valuation/ https://www.joinprospect.com/company/anthropic
