「MoEアーキテクチャ」の検索結果: ユーザー 0件・記事 2件
リード AlibabaのQwen Teamが2026年7月8日、オープンウェイトシリーズ最大モデル「Qwen 3-235B-A22B」をHugging Faceで一般公開した。Mixture-of-Experts(MoE)構造により推論時の実効パラメータは22Bに絞りながら、数学推論ベンチ「MATH-500」で92.4点、コーディング評価「LiveCodeBench」で63.7点を記録——いずれも...
リード DeepSeekが「V4」を2026年8月15日に正式公開した。総671Bながら推論時の活性化パラメータを67Bに絞るMixture-of-Experts(MoE)設計を採用し、MMLU・HumanEvalでGPT-4oと同等水準のスコアを記録しながらAPIコストをV3比約70%削減している。MoEアーキテクチャがMITライセンスで公開されたのは実質初となり、オープンソースLLM競争の軸が...