walgit 离 Cursor 的 Continuity 还差在哪
Cursor 说 Continuity 在 S3 上每秒能接 120 次 push,号称照着它实现的 walgit 在我的机器上只有每秒 6 到 25 次。先对齐两边的设计,再排除桶延迟和机器,最后顺着“越推越慢”追到每个 push 留下的 pack 和跟不上的压缩。
把经历过的,连成记忆。
这是我的记忆构建平台,你也能搭一个。
Cursor 说 Continuity 在 S3 上每秒能接 120 次 push,号称照着它实现的 walgit 在我的机器上只有每秒 6 到 25 次。先对齐两边的设计,再排除桶延迟和机器,最后顺着“越推越慢”追到每个 push 留下的 pack 和跟不上的压缩。
训练时屏幕上打出来的 loss 0.615、0.594、0.572……每一个数背后发生了什么?我们先用一个只有一个旋钮的机器,把损失、导数、梯度下降和学习率讲清楚;再打开一个只有 10 个参数的 Transformer,任务是“说出两个字里的第一个字”,把一步训练里的每个数都摊开算:前向怎样从输入算到损失,反向传播怎样从损失往回算出 10 个偏导数,更新之后为什么有的样本变好、有的变差,几十步里注意力怎样转向正确的位置,学习率太大时模型为什么会卡死;最后看真实的大模型多了什么,以及现实中找最优解那么难,为什么在 Transformer 里却这么顺。
OpenClaw 网关的握手里,服务端先发来一个 nonce,客户端回的 connect 帧里却还躺着一个明文令牌。顺着这个现象往下追:ws:// 上到底什么是明文、帧掩码为什么不算加密,令牌通常放在哪,为什么发哈希不够、要用每次不同的挑战,obs-websocket 的 SHA-256 挑战-应答和 OpenClaw 的 Ed25519 设备签名各防住了什么,令牌为什么还要明文发,挑战-应答为什么护不住整条会话,最后看 wss 和 TLS 补上的是哪一块,并把 Home Assistant、Jupyter、VS Code Server、code-server、Kubernetes 的做法放在一起对照。
一块 H100 只给一个用户生成文字时,不到 0.3% 的乘法器在干活。既然 FPGA 能搭出任意电路,能不能专门为 Transformer 搭一块,让推理更快、更省电、更便宜?我们先看 decode 时芯片到底在等什么,再看专用电路能省在哪里;接着看已经做出来的 FPGA 推理流水线赢在哪、又被什么卡住;最后用一个综合实验看把权重“焊进电路”能省多少面积,以及为什么这条路最后通向 ASIC。
Dagger 1.0 beta 的发布博文说自己是继 Jenkins、GitHub Actions 之后的第三代 CI,还说一条 dagger cloud checks on 就能替掉 GitHub Actions。两者是同一类东西吗?顺着问题往下追:两边的配置各自描述了什么;谁在执行、缓存放在哪;改一行代码各自重算了什么;集成测试要的数据库谁来起;测试挂了以后看到的是什么;本地能不能跑同一套;最后是 Cloud Checks 和按用量计费到底替掉了哪一层。全部场景用同一个 Go 小项目,在 GitHub 的 ubuntu-latest 机器上实测。