Transformer 和 FPGA 都是电路:为什么智能没有在 FPGA 上涌现
FPGA 是一片可以重新配置的电路,Transformer 跑一步也是一个固定的电路,两者都是“固定骨架 + 一串配置数”。我们从同一个一位全加器在两边的写法出发,先看它们相同在哪:都能表示任意函数,FPGA 的表示能力甚至更强;再看不同在哪:配置是人写的比特还是梯度写的实数,导线是烧写时焊死的还是每一步现算的,配置的规模差了几个数量级;解释 Transformer 的参数为什么能靠梯度下降收敛、FPGA 的比特为什么不行,并用一个小实验比较变异搜索和梯度下降去“写”同一张查找表网络;最后回答 FPGA 的四十年里为什么没有出现智能涌现。