Harness 與架構演進:從 Harness² 看它和普通 harness 的區別
Harness² 的 JobBench 起點 harness 裡,系統提示、守則、記憶三個檔案都是空的,模型權重也不動,分數卻能往上走。順著這個現象往下追:harness 由哪些檔案組成、平常誰在改;任務沒見過又沒有標準答案時,憑什麼判斷一次修改是好是壞;預算 k 有哪兩種花法;改完的東西怎麼留給下一個任務;最後回頭對照,它和人手維護的普通 harness 到底差在哪、多花了什麼。
共 22 篇
Harness² 的 JobBench 起點 harness 裡,系統提示、守則、記憶三個檔案都是空的,模型權重也不動,分數卻能往上走。順著這個現象往下追:harness 由哪些檔案組成、平常誰在改;任務沒見過又沒有標準答案時,憑什麼判斷一次修改是好是壞;預算 k 有哪兩種花法;改完的東西怎麼留給下一個任務;最後回頭對照,它和人手維護的普通 harness 到底差在哪、多花了什麼。
想在指令碼里用一條命令讓 Claude Code 或 Codex 開始幹活,再用一條命令在它幹到一半時插一句話。順著這個需求往下追:為什麼插話比發起難,兩家的插話差在哪,現有方案做到了哪一步;最後給出我們設計的協議 harnessctl:四條命令、一個事件檔案,由介面卡決定投遞,只公佈確認過的歸屬,並在本機驗證 Codex 介面卡。
Gemini、DeepSeek、GLM 都有 Flash 型號,價錢只有完整版的幾分之一。Flash 是 FlashAttention 嗎,還是把模型壓縮了一遍?如果都不是,它到底在哪幾處下刀,變小之後又靠什麼不變笨?
GPT-3 被損失函式“評審”了約 9.4 萬輪,每輪都可能讓訓練變差,卻還是走到了好解。是誰在給每一步打分,單步變差又為什麼能整體變好?引數越多越不容易卡住,這或許說明好解不止一個。
2026 年 10 月底,OpenAI 和 Anthropic 先後放出論文,說各自的模型證明了指數時間假說(ETH)是錯的。我們從一道聚會邀請的邏輯題講起:SAT 是什麼,怎麼比較演算法快慢,P、NP 和 NP 完全是什麼,幾十年的努力為什麼只能改底數,ETH 又斷言了什麼;再核對新聞裡哪些屬實、哪些被誇大;然後順著證明往下走:老的分而治之為什麼只能改常數,一個兩百年前的八平方恆等式怎麼用正負相消減少要對上的位元,遞迴又怎麼把指數壓到零;最後看 OpenAI 的另一條路,以及這件事改變了什麼、沒改變什麼。
訓練語言模型時打出的損失,換個單位就是“每個字要花幾個位元”:訓練一個大模型,也是在訓練一個壓縮器。梯度下降是 1847 年 Cauchy 為了算天體軌道寫下的,“預測就是壓縮”是夏農 1948 年說清楚的,“壓縮即智慧”的理論在六十年代就有了,大模型為什麼等到 2020 年前後才出現?我們沿著時間往下走:會學習的機器為什麼被一道 XOR 題難住,反向傳播的本質是什麼,為什麼 1986 年以後神經網路冷了二十年、壓縮榜上贏的一直是手寫模型;算力、資料各差了多少個數量級,Transformer 和規模定律補上了哪兩塊;最後把數學、演算法、算力、資料四條線放在一起,回答一個壓縮器憑什麼看起來有智慧。
訓練時螢幕上打出來的 loss 0.615、0.594、0.572……每一個數背後發生了什麼?我們先用一個只有一個旋鈕的機器,把損失、導數、梯度下降和學習率講清楚;再開啟一個只有 10 個引數的 Transformer,任務是“說出兩個字裡的第一個字”,把一步訓練裡的每個數都攤開算:前向怎樣從輸入算到損失,反向傳播怎樣從損失往回算出 10 個偏導數,更新之後為什麼有的樣本變好、有的變差,幾十步裡注意力怎樣轉向正確的位置,學習率太大時模型為什麼會卡死;最後看真實的大模型多了什麼,以及現實中找最優解那麼難,為什麼在 Transformer 裡卻這麼順。
一塊 H100 只給一個使用者生成文字時,不到 0.3% 的乘法器在幹活。既然 FPGA 能搭出任意電路,能不能專門為 Transformer 搭一塊,讓推理更快、更省電、更便宜?我們先看 decode 時晶片到底在等什麼,再看專用電路能省在哪裡;接著看已經做出來的 FPGA 推理流水線贏在哪、又被什麼卡住;最後用一個綜合實驗看把權重“焊進電路”能省多少面積,以及為什麼這條路最後通向 ASIC。
30u30 是一個按天帶讀“Ilya Sutskever 推薦的 30 篇論文”的開源倉庫。我們先查這份清單從哪來,發現它其實有三個版本;再看它的構成,裡面除了 Transformer、ResNet,還有咖啡自動機、一本數學專著的第 14 章和一篇 200 頁的博士論文。順著這幾篇往下讀,清單的另一條主線是壓縮:預測就是壓縮,學習就是把資料拆成規律和噪聲。最後用三個自己復現的小實驗檢驗這條線,也順帶看看 30u30 的實現。
FPGA 是一片可以重新配置的電路,Transformer 跑一步也是一個固定的電路,兩者都是“固定骨架 + 一串配置數”。我們從同一個一位全加器在兩邊的寫法出發,先看它們相同在哪:都能表示任意函式,FPGA 的表示能力甚至更強;再看不同在哪:配置是人寫的位元還是梯度寫的實數,導線是燒寫時焊死的還是每一步現算的,配置的規模差了幾個數量級;解釋 Transformer 的引數為什麼能靠梯度下降收斂、FPGA 的位元為什麼不行,並用一個小實驗比較變異搜尋和梯度下降去“寫”同一張查詢表網路;最後回答 FPGA 的四十年裡為什麼沒有出現智慧湧現。
AdderBoard 是一個比誰的 Transformer 更小的排行榜,題目是十位數加法。榜首的手寫模型只有 6 個引數,訓練出來的模型最少 36 個。我們先把 Transformer 是什麼、它怎麼一個字一個字地往外吐答案講清楚,再順著排行榜往下看:加法對它難在哪裡,數位為什麼要倒過來寫,訓練出來的模型怎麼從 6080 個引數壓到 36 個,手寫的 6 個引數又是怎麼把十位數加對的,它和 CPU 裡的二進位制加法器、我們列的十進位制豎式比有什麼不同,最後看這些數字該怎麼理解。
last30days 是一個 Claude Skill,專門搜 Reddit、Hacker News、Polymarket 等平臺最近 30 天的討論,按真實互動排序。第一章簡單交代它怎麼工作;其餘章節用它實際跑了 AI 泡沫、GPU 折舊、Claude Code 與 Codex、vibe coding、MCP、Gemini 4、開源模型等 8 個話題,看它查出來的趨勢,以及哪些地方和大家通常的認知不一樣:擔心泡沫的人盯的是債務而不是需求,H100 的租金四年後不降反升,兩家程式設計工具的使用者抱怨的是同一件事,MCP 的討論從“新標準”變成了“怎麼省 token”,開源模型的出口管制先出現在中國。
Pedro Domingos 在 2025 年的論文裡說,一條 Datalog 規則就是一次 einsum 加一個階躍函式,AI 只需要“張量方程”這一種語句。我們從一條“姑姨”規則出發,用 numpy 把它跑一遍,再順著論文往下追:整門語言只有一種語句會是什麼樣,稀疏關係寫成稠密矩陣代價多大,把關係壓進嵌入空間以後推理還對不對,溫度調到 0 是否真能“不幻覺”,規則能不能學出來,最後看這些想法裡哪些是新的。
從一個被 Multica 拉起來的 Claude Code 的角度,把一次 @ 從頭走一遍:醒來之前平臺和電腦之間傳了什麼,醒來時工作目錄裡的 CLAUDE.md、技能和環境變數各告訴我什麼,stdin 裡的第一條訊息長什麼樣,需求是我自己用 mat_ 令牌拉的,結果怎樣發成評論、又有哪些由 daemon 讀著我的 stdout 替我報回去;以及幹活時被插話、下一輪怎麼接上會話、換一個 agent 來接手時又怎麼接上前一個的進度。
靜態部落格貼一小段程式碼就有了評論區,平臺想讓評論裡的一個 @ 落到使用者自己電腦上的 agent,卻要從頭寫一整套系統。把評論框和本地 agent 當 bot 這兩件事放在一起看:平臺為一個 @ 到底寫了什麼,評論框的先例能借走什麼,現有的方案各補了哪一塊,一個像 Redis 一樣起例項就能用的中介軟體該長什麼樣,身份和寫回怎麼做,公開評論區帶來的新風險,以及它怎樣才不會重蹈多說的覆轍。
阿里雲萬有無界、釦子、Multica 都支援把電腦上的 Claude Code、Codex 這類程式設計 agent 接進平臺,讓同事在群裡 @ 它幹活。順著這個功能往下追:為什麼要把 agent 留在本地,平臺怎麼找到一臺沒有公網 IP 的電腦,怎麼把互動式 CLI 變成可呼叫的 worker,幾個任務和你自己怎麼共用同一個現場,agent 又怎麼反過來以平臺身份幹活;最後看看現在都有誰在做,以及這件事和“給電腦裝了個木馬”到底差在哪裡。
一個號稱「預測萬物」的開源專案,三個月拿到 3000 萬投資、近 8 萬星。順著它往下追:一份文件怎麼變成一份預測報告,成百上千個智慧體從哪來、怎麼互動,模擬一群人為什麼被認為能預測,這個前提在 MiroFish 裡是否成立,最後看這類「模擬人群」能不能替代傳統市場調研。
高等數學是不是本質上就是"另一個維度的加減乘除"?從算術到範疇論,數學史上的每一次重大突破,都是找到一個新的維度,讓原本複雜的操作在那個維度下變成簡單的東西。本文以神經網路的八層數學結構為例,揭示這種"維度躍遷"的統一本質。
兩個 AI Agent 平臺不約而同選擇了 SKILL.md 作為技能載體,卻在後設資料設計、觸發邏輯、Token 管理和安全模型上走向不同方向。本文以 Todo List 技能為貫穿案例,逐層拆解兩者的設計差異。
從 511 行 TypeScript 到 21.8 萬 Star,一個 AI 助手專案的九十天蛻殼記錄。翻了 15,579 個 commit、11,058 個 Issue 和 11,991 個 PR,這是我找到的故事。
Gateway 是 OpenClaw 的訊息中樞和會話狀態管理中心。它的會話管理在小規模場景下優雅得令人舒適,但檔案系統架構和平臺耦合的領域模型,讓規模化成為一道難題。
AI 寫程式碼的時代,測試不是可選項。從 WHY 到 HOW 到 WHAT,一份面向 Python 開發者的全場景測試實戰手冊。