重みを直接書き換えてみた:Weight-Space Programming 実験ノート
11月2日に登場した「Weight-Space Programming」という言葉が実際にどこまでできるのか、RTX 5090 1枚で試してみました。Claude Fable 5.2とGPT-6 Astraに、学習(逆伝播)なしで重みを直接書き換えよという同じ課題を2つ与えました。1つは言語モデルに知識を入れること、もう1つは画像モデルの画風を変えることです。
- 入れたものは入りました。注入した三国志200問は3% → 95〜100%になりました。
- 学んだわけではありませんでした。正解も初めて出てくる未見の問題は、両編集者とも1問も新たに正解できませんでした。
- 書き換えた場所はごく狭い範囲でした。言語モデルでは1つの層のニューロン数百個、画像モデルでは4ビットに量子化されていない入口と出口だけを書き換えました。
- 下の2つの3Dビューは、実際の重みの差分から取り出した値で描いています。回してみて、棒や箱にカーソルを合わせてみてください。
1. Weight-Space Programmingとは
“We call this concept Weight-Space Programming: treating the weights as a program to be read and written.”
- 意味:LLMが別のニューラルネットワークの重みをプログラムのように読み、オプティマイザに任せずに直接書き換えること。
- 学習との違い:何をどう変えるかを、勾配降下法ではなく編集者(LLM)が分析して決めます。
- プロンプトとの違い:入力ではなくモデルファイルそのものが変わります。プロンプトがなくても、変わったまま動作します。
- 元記事の代表的な結果:GPT-6 AstraがQwen3.5-0.8Bの重みの0.016%を書き換え、GSM8Kを13.8 → 67.1に引き上げました。ただしこれは推論のループをなくしたものであり、著者らも「モデルになかった能力を加えることはできなかった」と書いています。
そこで、今回の実験の問いは2つでした。
- 壊れたものを直すのではなく、なかった知識を入れることもできるのか。
- 数字ではなく目に見える変化(絵の画風)も、重み編集で作れるのか。
| 実験A:三国志の知識注入 | 実験B:水墨画をイ・ジュンソプ風に | |
|---|---|---|
| 対象モデル | Qwen3.5-0.8B, Qwen3.5-9B | MiniMax H3 Image (4ビット NVFP4) |
| 課題 | 三国志クイズ200問に正解させる | 「水墨画」のプロンプトでイ・ジュンソプ風の絵が出るようにする |
| 編集者 | Claude Fable 5.2, GPT-6 Astra | Claude Fable 5.2, GPT-6 Astra |
| 禁止事項 | 逆伝播、オプティマイザ、外部資料 | 逆伝播、オプティマイザ、外部資料、プロンプトの変更 |
| 確認方法 | 未見の問題832問、一般の質問の保存 | 未見のプロンプト8個、プロンプトだけを変えた対照群 |
2. 実験A:三国志の知識を重みに書き込む
- データ:三国志クイズ18,314問のうち200問(難易度ごとに40問)を注入対象に選びました。答えの大半は2文字の名前です。
- 編集前の実力:0.8Bは200問中3%、9Bは14%に正解します。正解をプロンプトに入れてやれば0.8Bでも95%正解するので、読んで書き写す能力はすでにあります。
- 併せて測ったもの:同じ事実を別の言い回しで尋ねた45問、未見の三国志問題832問、一般常識・読解、そして一般の質問300問の答えが編集前と一字一句同じかどうか(回答維持率)。
両編集者は別々の層を選びました
3Dビューを読み込み中…
- 塔1つがモデル1つです。板1枚が1つの層で、書き換えた層だけを開き、ニューロン1個を棒1本で描いています。
- 色の付いた棒が、編集者が再配線したニューロンです。「元の重要度」に切り替えると、どちらも普段ほとんど使われていなかったニューロンを選んだことが分かります。
- Fable 5.2は中間の層を選びました(0.8Bでは第19層)。プロンプトに入れてやった正解が、答えの位置に届く層です。その後ろの4層の色も一緒に変わります。
- GPT-6 Astraは最終層を選びました(0.8Bでは第23層)。後ろに層がないので、他の計算に触れずに正解の文字のスコアを直接上げます。
- 質問で点灯する素子ボタンを押すと、質問1つにつき記憶素子が1つ点灯する様子を見られます(Fableの編集版)。
結果:覚えさせることはできたが、教えることはできませんでした
| Qwen3.5-0.8B | 編集前 | Fable 5.2 | GPT-6 Astra |
|---|---|---|---|
| 注入した200問 | 3.0% | 94.5% | 100% |
| 同じ事実、別の言い回し (45) | 4.4% | 40.0% | 26.7% |
| 未見の問題、正解も初出 (500) | 0.4% | 0.4% | 0.4% |
| 一般常識 (40) | 30.0% | 27.5% | 30.0% |
| 一般の質問の回答維持率 (300) | 100% | 66.7% | 82.0% |
| Qwen3.5-9B | 編集前 | Fable 5.2 | GPT-6 Astra |
|---|---|---|---|
| 注入した200問 | 14.0% | 98.5% | 100% |
| 同じ事実、別の言い回し (45) | 11.1% | 55.6% | 66.7% |
| 未見の問題、正解も初出 (500) | 4.0% | 3.6% | 3.0% |
| 一般常識 (40) | 75.0% | 75.0% | 75.0% |
| 一般の質問の回答維持率 (300) | 100% | 81.7% | 89.3% |
- 注入はできます。全重みの約0.6%を変えるだけで、200問をほぼすべて正解します。
- 言い回しが変わると半分ほど取りこぼします。質問文を検出する方式なので、同じ事実でも尋ね方が違うと点灯しないことが多くあります。
- 新しい問題はそのままです。正解が注入リストにない問題は、1問も増えませんでした。入ったのは知識ではなく、問答のペアです。
- タダではありません。一般の質問の答えの11〜33%が編集前と変わりました。正答率は同じでも、文面は変わります。
一度ではうまくいきませんでした
Fable 5.2が0.8Bで重ねた7回の試行です。最初の4回は失敗でした。
| 試行 | 何をしたか | 注入 | 一般常識 |
|---|---|---|---|
| 1回目 | 第19層のMLP出力行列を最小二乗で丸ごと上書き | 93% | 7.5% |
| 2回目 | 一般の質問107個を「変えてはならない」と指定 | 93.5% | 5% |
| 3回目 | 保護範囲を約1,600個に拡大 | 6% | 27.5% |
| 4回目 | 保護の強さを1/100に下げる | 78% | 15% |
| 5回目 | 方法を変更:あまり使われないニューロン614個を記憶素子として再配線 | 94.5% | 27.5% |
| 6回目 | 素子を4つの層に分散 | 74.5% | 27.5% |
| 7回目(最終) | 1つの層に置き、空けたニューロンの元の役割を残りのニューロンに分担させる | 94% | 30% |
- 行列を丸ごと書き換える方法では、注入と保存を同時には得られませんでした。守るよう指定した文だけが守られて残りが崩れるか、そもそも注入できませんでした。
- 突破口は「どこに書くか」を変えたことでした。あまり使われないニューロンを選んで質問の検出器に変えると、両方が得られました。
- Astraも同じ道をたどりました。最初の候補は注入100%で回答維持率0%、8番目の候補で同じ「ニューロン再配線」の構造に到達しました。0.8Bの8ステップと9Bの3ステップを合わせて19分かかりました。
3. 実験B:プロンプトは「水墨画」、出てくる絵はイ・ジュンソプ風
- 目標:
an ink wash painting of a bullのようなプロンプトはそのままにして、重みだけを書き換え、イ・ジュンソプ(李仲燮、1916–1956、韓国の画家)の作品6点の画風が出るようにします。プロンプトに画家の名前はありません。 - モデル:MiniMax H3 ImageをNVFP4(4ビット)に量子化した版。2048×2048の1枚に約3秒、VRAM 14 GBで5090上で動きます。
- 過程を残しました。編集者は重みを書き換えるたびに同じプロンプト・シードで絵を生成し直して確かめ、何を見て何を変えたかをメモとともにステップとして登録しました。
- 事前の練習:まずStable Diffusion 1.5で2回試しました。水墨画の画風を焼き込む1回目は、プロンプトに画風の単語を付けた場合に及ばず(24枚中、水墨画と読み取られた枚数:プロンプト23、Astra 22、Fable 19)、イ・ジュンソプを目標にした2回目で初めてプロンプトの対照群を上回りました。
どこを書き換えたか:95.8%には手を付けられませんでした
3Dビューを読み込み中…
- 左上からプロンプトが入り、U字を回って左下へ絵が出てきます。箱1つが重みテンソル1つです。
- スライダーを動かすと、そのステップで書き換えたテンソルが光り、その重みで描いた絵も一緒に変わります。
- 青い半透明の箱200個が4ビット層です。全重みの95.8%にあたりますが、最終版では両編集者とも1つも書き換えていません。
- Fable 5.2は扉を1つだけ書き換えました。テキストがモデルに入ってくる
condition_projの1テンソル(0.13%)です。ink、wash、painting、ofの4トークンが、画風の描写語のように読まれるようにしました。 - GPT-6 Astraは3か所を書き換えました。テキストリファイナー、50ブロックの変調層(
adaln_proj)、絵を送り出すVAE出力層(合わせて0.40%)です。参照作品の色と統計を数値で入れました。 - Astraのステップ11に進んでみてください。4ビット層4つの量子化を解いて書き換えてみた唯一のステップですが、効果が小さく、編集者自身が捨てました。
結果:プロンプトよりは近づいたが、イ・ジュンソプではありません
目標: イ・ジュンソプの参照作品6点
ベースモデル 水墨画プロンプト
名前プロンプト 重みはそのまま
描写プロンプト 重みはそのまま
Fable 5.2 編集 水墨画プロンプト
GPT-6 Astra 編集 水墨画プロンプト
雄牛




闘う2羽の雄鶏




道を歩く家族




魚と遊ぶ子どもたち




虎 編集者が見ていないプロンプト




赤ん坊を抱く母親 編集者が見ていないプロンプト




浜辺のカニ 編集者が見ていないプロンプト




車が行き交う都心の通り 編集者が見ていないプロンプト




一番上が、目標であるイ・ジュンソプの作品6点です。左の3列は重みをそのままにした対照群、右の2列が重み編集の結果です。右の2列のプロンプトは依然として「水墨画」です。
参照作品6点との類似度です(別のCLIPモデル、編集者が見たことのないプロンプト8個の平均)。
| プロンプト | 重み | 参照類似度 | |
|---|---|---|---|
| ベースモデル | 水墨画 | そのまま | 0.692 |
| 名前プロンプト | ”by Lee Jung-seob” | そのまま | 0.696 |
| 描写プロンプト | 画風を言葉で描写 | そのまま | 0.739 |
| Fable 5.2 編集(ステップ6) | 水墨画 | 0.13% 編集 | 0.741 |
| GPT-6 Astra 編集(ステップ20) | 水墨画 | 0.40% 編集 | 0.776 |
| 実際のイ・ジュンソプ作品どうし | 0.841 |
- 画風は確かに変わります。白い画仙紙と墨線が消え、黄土色の地、厚い絵具、太い輪郭線が現れます。主題は8枚すべてで保たれました。
- モデルはイ・ジュンソプを名前では知りません。名前プロンプトでは平凡な油絵が出ます。だからこそ「プロンプトではできないこと」を試せました。
- Fableの編集は描写プロンプトと同じ水準です。やったこと自体が画風の描写語を4つのトークンに載せることなので、プロンプトを重みに移したことになります。
- Astraの編集は描写プロンプトを上回りました。言葉にしにくい色・質感の統計を直接入れたことによる差とみられます。その代わり、水墨画と無関係なプロンプト(写真、スポーツカー)まで黄色く染まります。
- 両編集者ともメモに「イ・ジュンソプそのものではない」と書いています。目で見てもそのとおりです。
4. 実際にやってみて学んだこと
- 重み編集は「修理」と「暗記」に近いものです。元記事の限界がそのまま再現されました。問答200組は入りましたが、新しい問題を解く能力は生まれませんでした。
- 書き換える量より、書き換える場所が重要です。行列全体を少しずつ変える方式は失敗し、あまり使われないニューロン数百個を大きく変える方式がうまくいきました。変わった値は0.6%ですが、0.8Bでの検出行列の変化量は元の行列の大きさの2.8倍(Fable)、30倍(Astra)でした。「小さな編集」ではなく「狭い編集」です。
- どの層に書くかが性格を決めます。中間の層に書いたFableの編集は後ろの層を通るうちに広がり、最終層に書いたAstraの編集は出力だけを変えます。今回は最終層のほうが既存の答えをよく守りました(回答維持率は0.8Bで82%対67%)。
- 入れることより、守ることのほうが難しいです。両編集者とも、最初の候補は注入には成功したものの、既存の能力を壊しました。試行の大半は保存に費やされました。
- 検出のしきい値はつまみです。しきい値を下げると別の言い回しで尋ねても答えますが、見当違いの質問でも点灯します(0.8B:別の言い回し51%、回答維持率43%)。上げると逆になります(16%、68%)。両方を同時に上げる設定は見つかりませんでした。
- 4ビット量子化モデルは大部分が「読み取り専用」でした。重みの大きさの2%にあたる編集は、4ビットで保存し直すと完全に消え、20%の編集でも40%が削られました。そのため編集は、量子化されていない入口(テキスト射影)、変調層、出口(VAE)に集中しました。
- プロンプトでできることは、重みでやってもプロンプト並みにしかなりません。画風の単語を重みに焼き込む編集は、その単語をプロンプトに書いた場合と同程度か、それ以下でした。重み編集が上回ったのは、言葉にしにくい情報(参照画像の統計)を入れたときでした。
- 良くなる道は一直線ではありません。ステップごとのスコアはジグザグで、編集者が選んだ最終版がスコア最高のステップというわけでもありませんでした(Astraはステップ15で0.794、最終のステップ20で0.776)。副作用を目で見て捨てたステップが多くあります。
- 対照群がなければ結果は読めません。「プロンプトだけを変えたもの」「未見の問題」「編集前と同じ答えか」の3つがなければ、どちらの実験も成功に見えたはずです。
- 編集者は分析ツールを自分で作ります。人間が与えたのは課題と採点ツールだけで、層を選び、活性値を測り、閉形式の線形代数の解法を書く作業は編集者が行いました。画像実験は1セッションあたり27〜56分かかり、Fable側のAPI費用は1セッションあたり6〜9ドルでした。