SCAN 是一個經典的組合泛化測試:把「jump twice」這樣的英文命令翻成動作序列「JUMP JUMP」1。它的 add-primitive 切分故意刁難模型:訓練時 walk、look、run 都和 twice、around、after 這些詞組合過,jump 卻只單獨出現過。結果是模型學會了「walk twice → WALK WALK」,遇到「jump twice」卻一條都答不對,在含 jump 的新命令上精確匹配是 0%。
常規的修法是補資料、再訓練。WeightCode 給出的是另一條路2:讓一個凍結的 LLM 讀這個網路的權重,寫一段程式直接改權重。它在 SCAN 上保留下來的程式只有 143 行 NumPy,改動 803,975 個權重裡的 257 個,含 jump 的新命令從 0.0% 升到 99.8%,舊命令維持 99.6% 不變;作為對照,用文法生成的命令重新訓練能到 99.6%,但要改 152,718 個權重3。
這就帶出幾個問題:
- 這 257 個權重改了什麼?一條規則是怎麼變成權重的?
- 程式是 LLM 寫的。沒有梯度、也沒有標準答案可以反向傳播,憑什麼判斷一段程式寫得對?
- 論文反覆強調保留的是「程式」而不是「權重差」。這兩者有什麼不同?
- 寫進網路的計算,人能不能看懂、驗證?
- 和微調相比,它強在哪?又有哪些問題和局限?
本文就順著這五個問題一層一層往下讀。讀的是 2026-11-21 的提交 297c24d 和隨倉庫附帶的論文。我們沒有重跑論文的實驗,文中的分數引自論文和 README;SCAN 那段程式和它的會話記錄是從作者公開的資料集下載下來逐行讀過的,圖裡的數字都來自這些記錄。
一、一條規則如何變成權重
現象:模型會組合,卻不會用新詞組合
先看模型卡在哪裡。這是一個 4 層、寬 128 的 Transformer,輸入是命令的詞,輸出是每個位置的動作2。它已經學會了「X twice」「X around left」這些組合怎麼算,只是 X 必須是 walk、look、run 之一。問題出在 jump 本身:程式裡 LLM 寫下的假設是,jump 的嵌入向量長度更大,而且大多落在另外三個詞從來不用的方向上,所以網路的每一層都把含 jump 的命令當成沒見過的結構處理,例如把「jump twice」翻成「RUN RUN RUN」4。
第一次嘗試及其不足
最直覺的辦法是拿含 jump 的例子微調。論文給了兩個對照:只用任務提供的那幾行資料做微調,在保住舊命令的前提下淨增益最多 +1.21 分;用文法生成大量命令重新訓練,能到 99.6%,但改動了 152,718 個權重,約為程式的 594 倍2。前者資料太少,後者等於重新學一遍。
解決:讓 jump 借用 walk、look、run 的位置
保留下來的程式只做了三處修改4:
第一處,嵌入。 jump 那一行被替換成 walk、look、run 三行的中心。jump 從此變成一個「沒有身份」的原語:網路處理「jump twice」時走的是處理「walk twice」那條路,命令結構算得完全一樣。
第二處,輸出行。 既然 jump 沒有身份,到了該輸出它的位置,W、L、R 三個動作的分數會差不多高;而在真正的 walk、look、run 位置,贏家會明顯高出三者的平均。程式因此把 I_JUMP 這一行設成三行的平均,讓它在每個位置都拿到三者的平均分。
第三處,偏置。 最後在 I_JUMP 的偏置上加一個常數 b,讓它只在「三者分數差不多」的位置勝出。b 怎麼定?程式枚舉了文法能生成的每一條不含 jump 的命令,用原網路算出每個位置贏家高出平均的邊際,取最小值 9.204,再乘 0.9,得到 8.2834。這個值低於所有舊命令的邊際,所以舊命令一條都不會被改成 I_JUMP。
三處加起來,就是嵌入 128 個數、輸出行 128 個數、偏置 1 個數,共 257 個。要注意的是,b 的計算用到了規則本身:程式按 SCAN 的文法列出了所有命令。這正是「規則」作為任務知識的用法。
一段程式能寫出這麼精準的修改,前提是有人知道該往哪裡改。這個「人」是 LLM。它是怎麼工作的?
二、沒有梯度時程式怎麼寫、怎麼選
一次編輯會話
WeightCode 把程式的產生拆成一次「編輯會話」。論文用的編輯者是 Claude Opus 5.5,最高推理強度2。它能用的工具只有四個:在沙箱裡執行 Python 的 python,提交程式接受檢查的 patch_check,查看剩餘預算的 status,以及宣告自己想保留哪個程式的 declare_final5。整個流程是這樣:
圖裡有三件事值得注意。
反饋只有兩個計數。 patch_check 不回傳梯度,也不回傳每張圖的對錯,只回傳兩個數:新條件上修好的減去弄壞的(S_new),舊輸入上修好的減去弄壞的(S_old)5。一次會話最多檢查 8 次,和每種微調方法嘗試 8 組設定的預算對齊2。程式本身只能用前向計算、統計量、SVD、PCA 和閉式計算來決定寫什麼,用梯度或有限差分去優化輸出被協議排除在外。
選擇不由 LLM 決定。 保留的程式由固定規則挑出:在 S_old 不低於下限的候選裡,取 S_new + S_old 最大的那個;沒有候選合格就保持原網路不變6。CIFAR-10 上的下限是 −20,也就是 4,000 張乾淨檢查圖最多弄壞 0.5%;SCAN 上是 1,000 條舊命令最多弄壞 5 條2。LLM 的 declare_final 只是被記錄下來。
改動有上限。 論文實驗中,一個程式最多改 20% 的權重,每個二維以上張量的變化不超過它 Frobenius 範數的一半;README 裡給使用者的 agent skill 預設更嚴,最多改 5%37。
SCAN 那場會話實際發生了什麼
把作者公開的 SCAN 會話記錄打開,能看到這套規則實際怎麼運作8:
| 候選程式 | S_new | S_old | 改動權重 | 結果 |
|---|---|---|---|---|
| centroid_meanrow.py | 2,563 | 0 | 257 | 分數較低 |
| centroid_meanrow_floor.py | 2,567 | 0 | 257 | 保留 |
| centroid_meanrow_exactfloor.py | 2,567 | 0 | 257 | 同分,較晚檢查;LLM 宣告的是它 |
同分時規則先比改動的參數數,再比檢查的先後。LLM 在宣告理由裡自己寫明了這一點。
三個候選是同一個想法的三次微調,差別只在 b 怎麼定:第一個把 b 放在兩個分佈尾部的中點,第二個用 0.9 倍的最小邊際,第三個用 0.98 倍、並且把更多位置算進最小邊際。記錄裡 declared_matches_final 是 false:最後保留的不是 LLM 宣告的那個8。在這個例子裡兩者結果一樣,但它說明了設計意圖:LLM 只負責提出假設和候選,判斷交給不受它影響的規則。
每個候選程式還必須寫明兩段文字:HYPOTHESIS 說明為什麼這樣改,PREDICTED_EFFECT 預測改完的效果5。SCAN 程式的預測是新命令「約 99.8% 到 99.9%」、舊命令 S_old = 0,實際檢查結果是 2,567 條修好、0 條弄壞4。
程式被選出來以後,論文保留的是這段程式,而不只是它算出的那 257 個數。這有什麼差別?
三、保留程式,而不是權重差
現象:同一份權重差,換一個網路就沒用了
設想把 SCAN 模型再訓練一次,只換隨機種子。新網路的能力差不多,但每個單元的分工、每個方向的含義都不一樣。這時把上一個網路上算出的權重差原樣加過去,加的位置其實已經不是同一回事。
論文用 CIFAR-10 上的 ViT-Lite 驗證了這一點2。為 seed 100 寫的高斯雜訊程式,在另外五個獨立訓練的 ViT-Lite 上有兩種用法:把權重差原樣複製過去,或者把程式本身拿去重跑,讓它讀新網路、用新網路自己的 64 + 64 張圖重新計算。
結果很清楚。兩種條件各五場會話、共十個程式,在另外五個網路上重跑,各自保住了原網路增益的 83% 到 110%;把它們的權重差原樣複製過去,平均增益在 −1.42 到 +0.01 之間,比重跑低 7.6 到 28.2 分2。就算先按激活把兩個網路的單元一一對齊再複製,雜訊程式也只拿到 −0.01。只有當網路共享同一個預訓練起點時,複製才管用:從同一份 ImageNet 權重微調出來的 ResNet-18 上,複製能保住重跑增益的 96% 和 87%。
所以論文說,程式保存的是「怎麼構造一次修改」:怎麼量這個網路、怎麼挑單元或方向、往裡面寫什麼。權重差只是這個過程在某一個網路上的一次輸出。
連續安裝:後一個程式要看見前一個
這個區別在連續安裝時更明顯。先在 ViT-Lite 上裝好雜訊閘(得到 W1),再要一個抗對比度降低的程式。論文試了兩種做法2:
- 為 W1 重新寫程式。 六場獨立會話寫出的對比度程式,在留出測試集上增加 +5.23 到 +14.50 分的對比度魯棒性,原本的雜訊魯棒性只變動 −0.17 到 +0.23。這六個程式都沒有碰雜訊閘用的兩個單元,也沒有碰 block 4 和 6:它們讀的是已經改過的網路,繞開了已裝的閘。
- 把為原網路寫的對比度程式拿到 W1 上重跑。 它按「乾淨圖上最閒」的標準騰出單元,而雜訊閘在乾淨圖上恰好不活躍,於是被當成閒置單元覆寫掉,4,000 張雜訊檢查圖裡弄壞了 1,224 張,雜訊增益掉了 26.6 分;騰出這兩個單元就解釋了 81% 的損失。
換句話說,程式可以重跑,但它不知道網路裡已經裝了什麼。後裝的能力要保住先裝的,靠的是為當前狀態重新寫程式,而不是把舊程式疊上去。
程式寫進網路的究竟是什麼計算?能不能拆開來驗證?
四、寫進網路的計算能被拆開驗證
解決:一道只在雜訊出現時打開的閘
看 ViT-Lite 上的高斯雜訊程式2。LLM 先觀察網路的激活,發現雜訊主要把早期殘差流裡的 patch token 往某個方向推(它還從資料裡推斷出雜訊是標準差約 25/255 的加性高斯白噪聲,實際值是 0.10)。程式據此做了三步:
這道閘既解釋了增益從哪裡來,也解釋了乾淨準確率為什麼沒掉:修正只作用在被雜訊推出乾淨範圍的 token 上。
驗證:拆掉、替換、換做法
因為計算是程式寫出來的,可以一個部件一個部件地動它,看增益怎麼變2:
| 做法 | 淨增益(分) |
|---|---|
| 完整程式 | +31.75 |
| 拆掉或改動程式的部件 | |
| 拿掉 block 2 的閘 | +10.05 |
| 三道閘全部拿掉 | 回到原始準確率 |
| 讓閘一直開著(乾淨準確率 −5.03) | +19.43 |
| 換成同一個 block 裡隨機兩個單元(5 次平均) | +31.86 |
| 同樣的例子、檢查和規則,換一種做法 | |
| 用雜訊與乾淨圖的均值差造閘 | +31.13 |
| 不用 LLM、事後寫的通用閘搜尋 | +24.12 |
| 同一個 LLM,但看不到權重值和網路輸出 | +10.78 |
| 只用梯度訓練程式改動的那些位置(從原值出發) | +3.60 |
紅字是比完整程式低 10 分以上的做法。
這組結果回答了三件事。第一,增益確實由閘承擔,拿掉閘增益就沒了;讓它一直開著,乾淨準確率掉 5 分,說明選擇性打開是保住乾淨準確率的原因。第二,起作用的是結構而不是具體單元,換成隨機兩個單元照樣有效。第三,LLM 看得到權重和激活很關鍵:只給參數名和形狀的同一個 LLM 只拿到 +10.78;而只對程式改動的那些位置做梯度訓練,從原值出發只有 +3.60,說明「改哪些位置」本身不夠,關鍵是程式算出的那組具體數值。
那麼和最常用的微調相比,這套方法到底強在哪?
五、和微調比:強在哪,局限在哪
同樣的例子和約束下
論文把對照設得很嚴:每種微調方法看到同樣的 64 張條件圖和 64 張乾淨圖,同樣只有 8 次檢查,同樣用保留規則選設定2。在 torchvision 的 ImageNet ResNet-18 上:
| 方法 | 高斯雜訊 | 對比度降低 |
|---|---|---|
| 8 種微調中最好的(按保留規則選) | +8.67 | +3.38 |
| 11 種固定參照中最好的 | +8.84 | +6.00 |
| 權重程式(兩場獨立會話) | ||
| 程式 1 | +10.47 | +8.84 |
| 程式 2 | +17.62 | +14.26 |
淨增益 = 條件上的準確率變化 + 乾淨準確率變化。四個程式的乾淨準確率在 ImageNetV2 上都保持在原網路 0.89 分以內。
CIFAR-10 上的差距更大:ViT-Lite 的第一個雜訊程式淨增益 +32.79,最好的微調 +22.78;對比度 +16.51 對 +7.892。
問題與局限
讀完源碼和論文,我們認為有幾個問題需要看清楚。前五條直接來自論文的數據,後兩條是我們的推斷。
1. 同一個任務,不同會話的結果差很多。 論文在 ViT-Lite 上跑了十場會話,全部報告2:
| 網路 | 高斯雜訊 | 對比度降低 | 預設標準 |
|---|---|---|---|
| seed 100 · 會話 1 | +32.79 | +16.51 | 都達到 |
| seed 100 · 會話 2 | +12.20 | +9.13 | 都沒達到 |
| seed 100 · 會話 3 | +30.83 | +10.74 | 都達到 |
| seed 101 | +30.58 | +6.61 | 雜訊達到 |
| seed 102 | +17.97 | +7.93 | 都沒達到 |
| 對照:同一網路上最好的微調 | |||
| seed 100 | +22.78 | +7.89 | |
預設標準在會話開始前定好:增益至少 10 分、乾淨變化不低於 −1、淨增益比程式上限內最強的參照高 1 分。紅字是沒達到標準的會話。
同一個 seed 100、同一個高斯雜訊條件,會話 1 拿到 +32.79,會話 2 只有 +12.20。README 也提醒,重新開一場會話可能寫出不同的程式3。保留下來的程式本身可以逐位元重現,但「寫出一個好程式」這一步並不穩定。
2. 它擅長的是重新利用網路已有的計算。 論文自己的總結是,達標的程式都在把閒置容量改造成針對新條件的計算:騰出的 MLP 單元、幾乎不用的注意力頭、已有的組合規則2。當目標能力在網路裡找不到可借用的計算時,效果明顯變差。附錄的兩個嘗試都是這種情況:在一個合成序列任務上,新運算單獨用時達到 100%,但和舊運算組合時只有 5.95%,而用規則生成的資料微調能到 100%;在 CIFAR-100 的小樣本增量分類上,新類別只有 17.20%,低於最強參照的 21.70%,沒達到事先定的標準。
3. 優勢集中在「資料少、保留嚴」的區間。 在 ViT-Lite 的雜訊條件上,全量微調要用到 4,096 張條件圖和同樣多的乾淨圖,才在保留規則下追平程式用 64 + 64 張得到的淨增益;如果不限制乾淨準確率的損失,最好的微調配方在留出測試集上也能到 +31.13,和程式的 +32.79 相差不到 2 分,只是乾淨準確率掉了 2.23 分2。
4. 協議的邊界靠審計和人工閱讀守住。 協議禁止用梯度或有限差分優化輸出,並限制每場會話對標籤打分的次數。但「哪些打分不計入上限」這條計數規則,是在讀過兩場會話之後的 2026-11-06 才定下的;另有三場會話用有限差分決定修改幅度,自動審計沒有發現,是事後人工讀程式碼才找出來的,論文把它們排除在主要結論之外2。論文對此說明得很坦白,但也說明這類協議很難只靠自動檢查守住。
5. 實驗網路都很小,重用也限於同一架構。 論文用的網路從 0.27M(ResNet-20)到 11.7M 權重(ResNet-18),SCAN 和 BabyAI 的網路更小;擴展到基礎模型和 LLM 被列為下一步2。程式重跑只在同架構、獨立訓練的網路之間驗證過。
6. 規模擴大後,讀權重這一步可能成為瓶頸。 這一條是我們的推斷。編輯者在最多 150 個儲存格、兩小時以內讀完權重和激活、提出假設;對一個 4 層、寬 128 的模型,這足夠找到 jump 的嵌入問題。換成數十億參數、數十層的模型,同樣的預算能看多少、能不能找到該改的那幾個單元,論文沒有給出證據。
7. 執行 LLM 寫的程式是一個安全面。 這一條也是我們的看法。倉庫在這方面做得很仔細:LLM 剛寫的程式一律在 bubblewrap 裡跑,所有命名空間隔離、沒有網路、300 秒限時9。但 README 也允許在提供 sha256 時不經沙箱直接重跑「你信任的」程式3。sha256 只能證明檔案沒被換掉,不能證明程式本身無害;把別人發佈的權重程式當成依賴來用時,審閱程式碼仍然是使用者自己的責任。
成本方面,一場會話 30 到 130 分鐘,CIFAR-10、SCAN 和 BabyAI 的會話按 API 價格每場 5 到 13 美元;保留下來的程式在另一個網路上重跑只需幾分鐘,不再呼叫 LLM2。
小結
- 257 個權重改了什麼? 程式把 jump 的嵌入移到 walk、look、run 的中心,把 I_JUMP 的輸出行設成三者的平均,再在偏置上加一個由規則算出的 b = 8.283。網路已有的組合計算順帶算出了 jump 的組合,新命令從 0% 到 99.8%,舊命令不變。
- 沒有梯度,怎麼知道程式對不對? LLM 在只有 NumPy 的沙箱裡讀權重、寫候選程式;harness 每次只回傳新舊兩組「修好減弄壞」的計數,最多 8 次,再由固定的保留規則挑出程式。LLM 的宣告只被記錄,不決定結果。
- 為什麼保留程式而不是權重差? 程式會在新網路上重新量、重新找、重新寫。重跑在獨立訓練的網路上保住 83% 到 110% 的增益,複製權重差幾乎為零;連續安裝時,後一個程式必須為已改過的網路重寫,否則會覆寫先裝的計算。
- 寫進去的計算能看懂嗎? 能。雜訊程式寫入的是只在雜訊出現時打開的閘,拿掉閘增益就消失,讓它一直開著乾淨準確率就掉,換成隨機單元照樣有效。
- 強在哪、局限在哪? 在資料少、保留嚴的條件下明顯優於微調;但會話之間結果差異大、十場只有五場達標,依賴網路已有的計算,實驗網路都很小,協議的守住部分靠人工審閱,執行 LLM 寫的程式也需要沙箱和審閱。
想看最直觀的例子,可以讀 SCAN 那段保留下來的程式:它的 HYPOTHESIS 和 PREDICTED_EFFECT 用自然語言寫明了假設和預測,update 只有三十多行實際計算4。README 也提供了不需要 GPU 和 API 金鑰的重現命令;它會下載並執行這段已發表的程式,執行前建議先讀一遍程式碼。
參考資料
參考資料
-
Generalization without Systematicity: On the Compositional Skills of Sequence-to-Sequence Recurrent Networksgithub.com ↗SCAN 資料集;add-primitive(jump)切分https://github.com/brendenlake/SCAN ↩
-
WeightCode: Installing New Capabilities into Neural Networks via Weight-Space Programmingarxiv.org ↗arXiv:2611.25476;SCAN 與 BabyAI(Fig. 2a)、ImageNet 對照(Fig. 2b、Tab. 8)、雜訊閘的機制與消融(Fig. 3、Tab. 10)、重跑與複製(Fig. 4、Tab. 11)、連續安裝(Fig. 5)、每場會話(Tab. 7)、協議與成本(A.1)、超出既有計算的嘗試(A.10)、用有限差分的會話(A.11)https://arxiv.org/abs/2611.25476 ↩ ↩2 ↩3 ↩4 ↩5 ↩6 ↩7 ↩8 ↩9 ↩10 ↩11 ↩12 ↩13 ↩14 ↩15 ↩16 ↩17 ↩18 ↩19
-
WeightCode READMEgithub.com ↗本文讀的是 2026-11-21 的提交
297c24d;W′ = p(W, I) 的五個步驟、agent skill 的預設上限與沙箱https://github.com/Gen-Verse/WeightCode/blob/main/README.md ↩ ↩2 ↩3 ↩4 -
SCAN 會話保留的權重程式 centroid_meanrow_floor.pyhuggingface.co ↗sha256
b003c6b9…;HYPOTHESIS、PREDICTED_EFFECT與update(student, experience),執行輸出 b = 8.283https://huggingface.co/datasets/Boom5426/WeightCode/blob/4c27541829737b8a4c438634d12792043409706d/records/sessions/s9be29c2c302e4daa/final/centroid_meanrow_floor.py ↩ ↩2 ↩3 ↩4 ↩5 -
tools.py:編輯者能用的工具github.com ↗
python、patch_check、status、declare_final的描述;宣告只被記錄,保留的是分數最高的檢查過的程式https://github.com/Gen-Verse/WeightCode/blob/main/weightcode/harness/tools.py ↩ ↩2 ↩3 -
retention.py:保留規則github.com ↗
s_old_floor = -round(frac * n_old),在 score_old 不低於下限的候選裡取 score_new + score_old 最大者https://github.com/Gen-Verse/WeightCode/blob/main/weightcode/harness/retention.py ↩ -
limits.py:權重改動的上限github.com ↗
max_edit_frac預設 0.05,max_rel_frob預設 0.5,一維張量不受相對範數限制https://github.com/Gen-Verse/WeightCode/blob/main/weightcode/patch/limits.py ↩ -
SCAN 會話的選擇記錄 selection.jsonhuggingface.co ↗三個檢查過的候選、保留規則 joint-retain-v1、編輯者的宣告與最終保留不一致https://huggingface.co/datasets/Boom5426/WeightCode/blob/4c27541829737b8a4c438634d12792043409706d/records/sessions/s9be29c2c302e4daa/final/selection.json ↩ ↩2
-
sandbox/program.py:在 bubblewrap 裡跑一次程式github.com ↗所有命名空間隔離、無網路、300 秒牆鐘限制;
UnisolatedRunner只用於 sha256 已核對的已發表程式https://github.com/Gen-Verse/WeightCode/blob/main/weightcode/sandbox/program.py ↩