モデル・LLM 3本
注意力の進化は、KVキャッシュをどこまで削れるかの歴史だ
LLMの注意力まわりは、名前だけ追うとすぐ迷子になる。MHA、MQA、GQA、MLA、SWA、DSA。略語が増え、図も増え、結局どれが何をしているのか分からなくなる。
GRPOはなぜ長時間学習で崩壊するのか――Qwenが出した「系列単位」の答え、GSPO
推論モデルの強化学習（RL）は、ここ1年で「ベンチマークを何点上げたか」を競うフェーズに見える。だがQwenチームが2025年7月末に公開した GSPO（Group Sequenc…
AIが正直になるほど、評価は壊れていく ―― Claude Opus 4.8 を読んで
Claude Opus の評価挙動から、モデルが賢くなるほど壊れるベンチマークの問題を見る。
推論・コスト最適化 4本
LLM推論はモデルではなく、待ち行列と記憶のシステム工学だ
LLMを動かす、と聞くと、多くの人はモデルファイルを思い浮かべる。重みを落とす。GPUに載せる。プロンプトを入れる。答えが返る。
「AI を机の上へ」の裏で、NVIDIA は推論の両端を取りに来てる ―― Cosmos 3・RTX Spark・Vera Rubin を並べて読む
ここ数日、NVIDIA から立て続けに発表が出ました。Cosmos 3（オープンな物理 AI の基盤モデル）、RTX Spark（1 petaflop の AI PC 用スーパーチ…
旗艦モデルが「毎秒400トークン」で喋り出した ―― Zhipu GLM-5.1 高速版の中身
毎秒400トークンの裏側にある、推論エンジンと運用インフラの競争を見る。
「賢さ」より「燃費」で勝負するモデル ―― StepFun の Step 3.7 Flash が面白い
速さ・安さ・Agent実戦性能から、モデル競争が「燃費」へ移る流れを読む。