「Speculative Decoding」の検索結果: ユーザー 0件・記事 1件
リード GPT-4クラスの推論コストが1年で約90%下がった。1,000トークンあたり$0.03だったものが今や$0.003以下——単なる値下げ競争ではなく、技術的ブレークスルーが重なった結果だ。これが何を変えつつあるのか、現場の数字から整理する。 何が起きているのか 2026年に入り、主要LLMプロバイダーが相次いで推論料金を引き下げている。OpenAIのGPT-4o系モデルは出力1Mトークンあ...