硬盘能像神经元一样记忆吗：把 30B 参数固化到裸盘上
把一个 30B 模型的权重不经文件系统、直接写进一块裸盘，盘就“记住”了这三百亿个数吗？我们从裸盘上的地址和闪存单元讲起，用一个小实验对比按地址读取和按内容回忆两种记忆；再算清楚盘只存储、处理器计算时每个 token 要读多少数据，看存储单元能不能就地计算、能不能像突触一样学习；最后回答什么样的模型、什么样的盘，才适合把 30B 参数固化下来。
把经历过的，连成记忆。
这是我的记忆构建平台，你也能搭一个。
最新文章
Go 大工程的代码目录分析：以 k8s、multica、etcd、prometheus 为例
从 Java 转过来的人打开 kubernetes 源码，第一反应是找 controller、service、dao——看到的却是 cmd、pkg、staging。顺着这个困惑往下追：这三个目录各是什么来历，为什么 etcd 连 cmd 和 internal 都没有，k8s 的 controller 为什么不是那个 controller，multica 又怎么长回了 handler/service/db 三层，prometheus 为什么连 service 层的生态位都没有。
大模型的 Flash 版和完整版，架构上差在哪
Gemini、DeepSeek、GLM 都有 Flash 型号，价钱只有完整版的几分之一。Flash 是 FlashAttention 吗，还是把模型压缩了一遍？如果都不是，它到底在哪几处下刀，变小之后又靠什么不变笨？
训练大模型为什么不用来回评审：梯度下降找到的是什么解
GPT-3 被损失函数“评审”了约 9.4 万轮，每轮都可能让训练变差，却还是走到了好解。是谁在给每一步打分，单步变差又为什么能整体变好？参数越多越不容易卡住，这或许说明好解不止一个。
压缩算法简史：从莫尔斯电码到 zstd
把本站文章交给几代压缩器，1996 年的 bzip2 压得比 2016 年的 zstd 还小，1992 年的 gzip 至今仍是网页的默认格式。顺着这个现象往回找：莫尔斯为什么给 E 一个点，Huffman 怎样把“按频率分配码长”做到最优，LZ77 怎样把重复的片段换成一个指针，专利怎样逼出了 gzip 和 PNG，算术编码和上下文模型怎样把“压缩”变成“预测”，BWT 为什么先排序再压，zstd 和 Brotli 又为什么在压缩率之外去追速度；最后看有损压缩扔掉了什么，以及压缩的尽头在哪里。