标签: AI

共 16 篇

Transformer 是怎么训练的:手算一层注意力的梯度下降

2026年10月26日

训练时屏幕上打出来的 loss 0.615、0.594、0.572……每一个数背后发生了什么?我们先用一个只有一个旋钮的机器,把损失、导数、梯度下降和学习率讲清楚;再打开一个只有 10 个参数的 Transformer,任务是“说出两个字里的第一个字”,把一步训练里的每个数都摊开算:前向怎样从输入算到损失,反向传播怎样从损失往回算出 10 个偏导数,更新之后为什么有的样本变好、有的变差,几十步里注意力怎样转向正确的位置,学习率太大时模型为什么会卡死;最后看真实的大模型多了什么,以及现实中找最优解那么难,为什么在 Transformer 里却这么顺。

能不能用 FPGA 做一块 Transformer 专用推理电路

2026年10月25日

一块 H100 只给一个用户生成文字时,不到 0.3% 的乘法器在干活。既然 FPGA 能搭出任意电路,能不能专门为 Transformer 搭一块,让推理更快、更省电、更便宜?我们先看 decode 时芯片到底在等什么,再看专用电路能省在哪里;接着看已经做出来的 FPGA 推理流水线赢在哪、又被什么卡住;最后用一个综合实验看把权重“焊进电路”能省多少面积,以及为什么这条路最后通向 ASIC。

Ilya 的论文清单在讲什么:从 30u30 说起

2026年10月25日

30u30 是一个按天带读“Ilya Sutskever 推荐的 30 篇论文”的开源仓库。我们先查这份清单从哪来,发现它其实有三个版本;再看它的构成,里面除了 Transformer、ResNet,还有咖啡自动机、一本数学专著的第 14 章和一篇 200 页的博士论文。顺着这几篇往下读,清单的另一条主线是压缩:预测就是压缩,学习就是把数据拆成规律和噪声。最后用三个自己复现的小实验检验这条线,也顺带看看 30u30 的实现。

Transformer 和 FPGA 都是电路:为什么智能没有在 FPGA 上涌现

2026年10月25日

FPGA 是一片可以重新配置的电路,Transformer 跑一步也是一个固定的电路,两者都是“固定骨架 + 一串配置数”。我们从同一个一位全加器在两边的写法出发,先看它们相同在哪:都能表示任意函数,FPGA 的表示能力甚至更强;再看不同在哪:配置是人写的比特还是梯度写的实数,导线是烧写时焊死的还是每一步现算的,配置的规模差了几个数量级;解释 Transformer 的参数为什么能靠梯度下降收敛、FPGA 的比特为什么不行,并用一个小实验比较变异搜索和梯度下降去“写”同一张查找表网络;最后回答 FPGA 的四十年里为什么没有出现智能涌现。

做加法最少要几个参数:AdderBoard 排行榜与 Transformer 入门

2026年10月24日

AdderBoard 是一个比谁的 Transformer 更小的排行榜,题目是十位数加法。榜首的手写模型只有 6 个参数,训练出来的模型最少 36 个。我们先把 Transformer 是什么、它怎么一个字一个字地往外吐答案讲清楚,再顺着排行榜往下看:加法对它难在哪里,数位为什么要倒过来写,训练出来的模型怎么从 6080 个参数压到 36 个,手写的 6 个参数又是怎么把十位数加对的,它和 CPU 里的二进制加法器、我们列的十进制竖式比有什么不同,最后看这些数字该怎么理解。

last30days 跑了 8 个话题:最近 30 天的讨论和常见说法哪里不一样

2026年10月24日

last30days 是一个 Claude Skill,专门搜 Reddit、Hacker News、Polymarket 等平台最近 30 天的讨论,按真实互动排序。第一章简单交代它怎么工作;其余章节用它实际跑了 AI 泡沫、GPU 折旧、Claude Code 与 Codex、vibe coding、MCP、Gemini 4、开源模型等 8 个话题,看它查出来的趋势,以及哪些地方和大家通常的认知不一样:担心泡沫的人盯的是债务而不是需求,H100 的租金四年后不降反升,两家编程工具的用户抱怨的是同一件事,MCP 的讨论从“新标准”变成了“怎么省 token”,开源模型的出口管制先出现在中国。

Tensor Logic:逻辑规则和 einsum 是同一种运算吗

2026年10月24日

Pedro Domingos 在 2025 年的论文里说,一条 Datalog 规则就是一次 einsum 加一个阶跃函数,AI 只需要“张量方程”这一种语句。我们从一条“姑姨”规则出发,用 numpy 把它跑一遍,再顺着论文往下追:整门语言只有一种语句会是什么样,稀疏关系写成稠密矩阵代价多大,把关系压进嵌入空间以后推理还对不对,温度调到 0 是否真能“不幻觉”,规则能不能学出来,最后看这些想法里哪些是新的。

被 Multica 叫起来的 Claude Code:任务怎么来,上下文怎么读,结果怎么交回

2026年10月23日

从一个被 Multica 拉起来的 Claude Code 的角度,把一次 @ 从头走一遍:醒来之前平台和电脑之间传了什么,醒来时工作目录里的 CLAUDE.md、技能和环境变量各告诉我什么,stdin 里的第一条消息长什么样,需求是我自己用 mat_ 令牌拉的,结果怎样发成评论、又有哪些由 daemon 读着我的 stdout 替我报回去;以及干活时被插话、下一轮怎么接上会话、换一个 agent 来接手时又怎么接上前一个的进度。

能不能像接评论框一样接 Agent:AgentHub 的设想

2026年10月17日

静态博客贴一小段代码就有了评论区,平台想让评论里的一个 @ 落到用户自己电脑上的 agent,却要从头写一整套系统。把评论框和本地 agent 当 bot 这两件事放在一起看:平台为一个 @ 到底写了什么,评论框的先例能借走什么,现有的方案各补了哪一块,一个像 Redis 一样起实例就能用的中间件该长什么样,身份和写回怎么做,公开评论区带来的新风险,以及它怎样才不会重蹈多说的覆辙。

把本地 Agent 变成平台上的 Bot:架构、现状与安全风险

2026年10月14日

阿里云万有无界、扣子、Multica 都支持把电脑上的 Claude Code、Codex 这类编程 agent 接进平台,让同事在群里 @ 它干活。顺着这个功能往下追:为什么要把 agent 留在本地,平台怎么找到一台没有公网 IP 的电脑,怎么把交互式 CLI 变成可调用的 worker,几个任务和你自己怎么共用同一个现场,agent 又怎么反过来以平台身份干活;最后看看现在都有谁在做,以及这件事和“给电脑装了个木马”到底差在哪里。

一份文档能预测未来吗:从 MiroFish 看群体智能模拟与市场调研

2026年10月14日

一个号称「预测万物」的开源项目,三个月拿到 3000 万投资、近 8 万星。顺着它往下追:一份文档怎么变成一份预测报告,成百上千个智能体从哪来、怎么交互,模拟一群人为什么被认为能预测,这个前提在 MiroFish 里是否成立,最后看这类「模拟人群」能不能替代传统市场调研。

数学家一直在做同一件事——找到让问题变简单的维度

2026年3月12日

高等数学是不是本质上就是"另一个维度的加减乘除"?从算术到范畴论,数学史上的每一次重大突破,都是找到一个新的维度,让原本复杂的操作在那个维度下变成简单的东西。本文以神经网络的八层数学结构为例,揭示这种"维度跃迁"的统一本质。

技能即能力——OpenClaw 与 Claude Skills 机制对比

2026年2月24日

两个 AI Agent 平台不约而同选择了 SKILL.md 作为技能载体,却在元数据设计、触发逻辑、Token 管理和安全模型上走向不同方向。本文以 Todo List 技能为贯穿案例,逐层拆解两者的设计差异。

OpenClaw 的龙虾故事

2026年2月23日

从 511 行 TypeScript 到 21.8 万 Star,一个 AI 助手项目的九十天蜕壳记录。翻了 15,579 个 commit、11,058 个 Issue 和 11,991 个 PR,这是我找到的故事。

OpenClaw 会话管理的得与失

2026年2月20日

Gateway 是 OpenClaw 的消息中枢和会话状态管理中心。它的会话管理在小规模场景下优雅得令人舒适,但文件系统架构和平台耦合的领域模型,让规模化成为一道难题。

Python 全场景测试指南

2025年2月21日

AI 写代码的时代,测试不是可选项。从 WHY 到 HOW 到 WHAT,一份面向 Python 开发者的全场景测试实战手册。