AIウォッチ ／ 連載
計算資源から垂直応用まで、本番のエージェント基盤を OS の階層として下から読み解く連載。
この一年で、「エージェント」という言葉の重心が変わった。
Agentic OS を下から読むなら、最初に見るべきものはモデルの賢さではない。推論の値段と速度である。
前回は、推論のコストをどこから見るかを整理した。大きく効いているのは、計算そのものだけではない。重みを読むメモリ帯域、同時に処理するリクエスト数、途中結果を持ち続けるための領域が、生成の速度と費用を決めていた。
前回までは、モデルが一枚の GPU に収まっているものとして話を進めてきた。
前回までで、推論コストの見え方を下から見てきた。
前回は、長文脈の値段を決める KV キャッシュを、モデル構造の側から小さくする方法を見た。
前回まで、長い文脈を扱うときに何が重くなるのかを見てきた。
前回まで、長い文脈を扱うときの工夫を見てきた。
ここまで数回は、モデルを効率の側から見てきた。
前回は、考える力をどう鍛えるかを見た。
第8回では、モデルに考える力をどう鍛えるかを見た。第9回では、答えを出す時間に計算を足すことで、推論を強くする考え方を見た。
ここまでの回では、主にモデルそのものを見てきた。
前回は、エージェントに手を動かさせるための実行環境を見た。
前回まで見てきたのは、一体のエージェントをどう安全に走らせるかだった。
前回は、複数のエージェントが動くとき、その難しさは個々の点よりも「間」に出る、という話をした。
前回は、L4 の編成を「長い鎖を短く区切る」ものとして見た。
ここまでの数回で、エージェントを「賢い」だけのものから、「任せられる」ものへ近づけてきた。
前回は、注入がなぜ効くのかを見た。
ここまで、エージェントをどう作るかを下から見てきた。
第1回から第3回では、推論コストの中心にある単純な事実を見た。GPU は高い。だから、確保した GPU を遊ばせると、そのまま損になる。
第1回から第3回で、長文脈の値段は、かなりの部分を KV キャッシュが決める、と見た。KV は過去文脈のための作業場所であり、リクエストごとに固有である。重みのように、多くの利用者で割り勘しにくい。
第18回では、エージェントの評価は、最終出力だけを見ることではない、と書いた。どの道を通ったか。どこで迷ったか。失敗が偶然か、構造的なものか。それを読むことが評価の中心になる。そして、合格率が高すぎる評価は、むしろ警告だとも見た。
L5 では、第16回で注入の正体を見た。第17回では、その防ぎ方を見た。あれは、外から命令を送り込まれる脅威だった。
第13回では、複数エージェントの不具合は、一体の中ではなく、エージェントとエージェントの「間」に出ると見た。原因の多くは、共有する資源での衝突だった。
第12回では、記憶とは、ただ保存することではなく、「なぜそうしたか」という因果を残す土台だ、と見た。あれは、何を残すかの話だった。
L5 では、まず注入を見た。外から命令を送り込み、エージェントの判断を曲げる攻撃である。次に漏洩を見た。断片的な情報が、意図しない形で外へ出ていく攻撃である。
前回は、よく働くエージェントほど、言葉でだまされる危険も大きくなるという話で終わりました。社会的にだまされるエージェントを前提にして、権限、確認、経路、監査、停止条件を組み直す、と…
ここまでは、権限をどう絞るかを見てきました。できる操作を絞り、届く場所を絞り、通ってよい経路を絞ることで、エージェントが越えてはいけない線を下の層から作りました。今回は少し上へ戻り…
前回は、仕様をどう書くかを考えました。注意を向けられる量には限りがあります。だから、巨大な一枚の仕様にせず、段階に割ります。関係する分だけ渡します。版を持たせます。そうすれば、やっ…
前回は、検証のいちばん下の土台を見ました。失敗の記録を一件ずつ人が読みます。どこで壊れたかを手で印付けします。似た失敗を下から型にまとめます。さらに頻度を数えます。そして、いちばん…
前回までは、出力をどう測るかを見てきました。
前回は、外の世界の第一面を見ました。 あると思われた権限が、会社を縛るという話でした。
前回は、外の現場の第二面として、失敗を戻せる形に保つ設計を見ました。外へ出た処理は、ただ速く進めばよいわけではありません。間違えたときに止まり、戻り、やり直せる必要があります。
前回は、できあがった賢さを少ないビットに載せる話をしました。
前回は、ゼロから鍛える手仕事の話で終わりました。静かに失敗する訓練を、一段ずつ確かめる規律です。その規律こそが、この連載の背骨でした。
前回までで、土台から外殻までを一巡しました。
前回は、安全の網を見ました。エージェントが一つの道具ではなく、いくつもの処理につながる網になると、失敗もまた網の中を進みます。小さな誤りが広がります。弱い判断が増幅されます。信頼し…
前回は、走りながら経験から学ぶ記憶を見ました。
前回は、物差しが古びる話をしました。
前回は、委譲を見ました。大きな仕事をそのまま渡すのではなく、文脈を切り離し、小さな仕事として別の場所へ渡す話でした。上の層では、それは編成の技術に見えます。
前回は、読むことと書くことの非対称を見ました。読むだけなら、すでにあるものをたどれます。書くときは、まだないものを一語ずつ生む必要があります。だから高くつきます。
前回は、道具の設計を見ました。
前回は、検証できない好みの教え方を見ました。結びでは、次回はまた別の層の急所へ降りる、と書きました。今回は、そのまま外の現場へ戻ります。
前回は、代理人としてのエージェントを見ました。
前回は、世界モデルが抽象の層で先を読む話をしました。結びでは、次回はまた別の層の急所へ降りる、と書きました。
前回は、文脈の窓をどう手入れするかを見ました。広げるだけでは足りません。何を残し、何を捨て、何を近くに置くかで、エージェントのふるまいは変わります。
前回は、取り込みの信頼を見ました。外から入ってくるものを、どう受け、どう疑い、どう使える形にするかを見ました。結びでは、次回は、また別の層の急所へ降りる、と書きました。
前回は、信頼性の崖をどう越えるかを見ました。仕事を細かく分け、途中で確かめ、崩れる前に止める話でした。結びでは、次回はまた別の層の急所へ降りる、と書きました。
言葉だけのエージェントは、目と耳を他人に借りているようなものです。
エージェントとは、賢い一個ではない。層の重なりです。
前回、第49回で、私は「この連載は、ここで閉じる」と書きました。
前回は、外の知識を引く話でした。
前の補講では、画面を使って外のソフトを動かす話をしました。検索で外の知識を引く。画面を見て、押し、入力し、結果を読む。そこまで降りても、まだ上の層の話でした。
前回は、言葉の刻みで、いちばん下を見ました。
前回は、鍛える側を見ました。たくさんの計算を並べ、GPUを束ね、重い訓練をどう動かすかを見ました。補講は、まだ続く。そう書いて、今回は動く側に戻ります。
ここで、補講も閉じる。
補講は、一度閉じました。補講(6)で、ここで補講も閉じる、と書きました。
補講(7)では、埋め込みを見ました。言葉や文を、意味の一点に変える話でした。
前回は、道を選ぶ門を見ました。問いが来たとき、どの専門家へ渡すか。その分かれ道を扱いました。
前回は、ご褒美で振る舞いを変える環を見ました。答えを出す。人の好みに近いかを見る。よい振る舞いに寄せる。そうして鍛えた大きなモデルは、賢くなります。
補講(10)では、蒸留を見ました。
補講十一では、底の素材まで降りました。何を集め、どう整え、どう鍛えるかを見ました。
前回は、前置きを取っておいて、また使う話をしました。
連載は補講(13)で一度、本当に閉じました。
補講(14)では、書き出しの遅さを投機で買い戻す話をしました。
補講(15)では、端末で小さく賢く動かす話をしました。
この連載は、固有名詞を使わない縛りで書いてきました。製品名も、手法名も、会社名も出さず、できるだけ機構だけで語る。その理由は、「名前を知っている」ことと「仕組みを分かっている」こと…