標籤: 晶片

共 1 篇

能不能用 FPGA 做一塊 Transformer 專用推理電路

2026年10月25日

一塊 H100 只給一個使用者生成文字時,不到 0.3% 的乘法器在幹活。既然 FPGA 能搭出任意電路,能不能專門為 Transformer 搭一塊,讓推理更快、更省電、更便宜?我們先看 decode 時晶片到底在等什麼,再看專用電路能省在哪裡;接著看已經做出來的 FPGA 推理流水線贏在哪、又被什麼卡住;最後用一個綜合實驗看把權重“焊進電路”能省多少面積,以及為什麼這條路最後通向 ASIC。