「エッジ推論」の検索結果: ユーザー 0件・記事 2件
リード Hugging Faceが2026年8月27日、「SmolLM3-1.7B」を正式公開した。パラメータ数はわずか1.7Bだが、コーディングベンチマーク(HumanEval)でスコア72.3%を記録し、Llama 3.1 8Bの69.1%を3.2ポイント上回る。「大きいモデルほど賢い」という前提が、また一つ崩れた。 何が起きているのか 2026年8月27日 22:00(UTC)、Huggin...
リード クラウドのAPIに頼らず、手元のラップトップやスマートフォンで生成AIを動かす——そのコンセプトが「実験」から「実用」へと移行しつつある。2026年に入って量子化技術とコンパイラの最適化が急加速し、7Bパラメータクラスのモデルがオンデバイスで毎秒30〜40トークンを安定して出せるケースが増えてきた。プライバシー・オフライン耐性・コスト削減の三拍子がそろい、企業現場での関心が急速に高まってい...