各位，知道美西时间的周二在AI圈意味着什么吗？
没错，大厂扎堆发新东西的日子。换算成我们的时间也就是明天凌晨。
前几天 Gemini 4 Carbon 刚打了个头阵，最近两天后台和社区的动静又密集起来了。已经在 Codex 后台露出灰度尾巴的 GPT 6.2 Astra，社区流传测试作品的 Claude Fable 5.5，还有灰度测试了一阵子随时可能端上来的 DeepSeek V4.1 Pro。
今晚这波，你最期待哪一个？太拭目以待了。
没错，大厂扎堆发新东西的日子。换算成我们的时间也就是明天凌晨。
前几天 Gemini 4 Carbon 刚打了个头阵，最近两天后台和社区的动静又密集起来了。已经在 Codex 后台露出灰度尾巴的 GPT 6.2 Astra，社区流传测试作品的 Claude Fable 5.5，还有灰度测试了一阵子随时可能端上来的 DeepSeek V4.1 Pro。
今晚这波，你最期待哪一个？太拭目以待了。
23
0
47
5,135
见过洗稿的，真没见过公开承认洗我稿子，甚至还要我去点关注的，这也太不要脸了。
昨天刚发了一条排查 Claude 账号报错的记录，才过两个小时就被人连图带文直接扒走洗了一遍。最离谱的是被抓包之后不仅半点不觉得理亏，反而在评论区当众炫耀自己是用 Grok Bot 做 AI 自动洗稿发帖，顺带还要拉关注。
帖，本身就明确违反了 X 的自动化规则与平台操纵规定，属于官方严厉打击的违规垃圾脚本行为。连报错截图都直接照搬，还把违规洗稿当成技术实力在评论区自爆留证据，真没见过这么理直气壮不要脸的。
昨天刚发了一条排查 Claude 账号报错的记录，才过两个小时就被人连图带文直接扒走洗了一遍。最离谱的是被抓包之后不仅半点不觉得理亏，反而在评论区当众炫耀自己是用 Grok Bot 做 AI 自动洗稿发帖，顺带还要拉关注。
帖，本身就明确违反了 X 的自动化规则与平台操纵规定，属于官方严厉打击的违规垃圾脚本行为。连报错截图都直接照搬，还把违规洗稿当成技术实力在评论区自爆留证据，真没见过这么理直气壮不要脸的。
这个 Claude 账号用家宽 IP 配合 Apple 内购，前面开过一个月 Pro 加一个月 Max，已经稳定活过两个月了。结果今天突然弹窗报错，提示组织访问权限已禁用，连网页端切换模型也提示当前套餐不可用。
的是邮箱里根本没收到封禁邮件，而且去网页端试了一下发现 Sonnet 居然还能正常对话。点进账号设置里一看，原来的订阅没了，账号状态不知道什么时候掉回了 Free 免费版。
排查半天才发现是个大乌龙，单纯是因为 Apple 内购不知道抽了什么风，到期没给我自动续费。套餐掉回免费版之后，Claude Code 权限被收回，但官方给的报错文案直接写着组织访问权限已禁用，看着跟被封号一模一样，真能把人吓一跳。
刚才手动在 App Store 重新把 Max 5x 订阅续上，权限立马就恢复了，正式迈入第三个月。看来只要是干净的家宽 IP 加上正规 Apple 内购渠道，账号其实稳得很，遇到这类报错先去查查苹果的自动续费状态就行。
44
6
72
4,498
@AyakaAteliers @LanzhiAI 还有洗我稿子的
2
0
8
837
以前一直觉得 Grok Bot 没啥用，平时也基本想不起来用它。
但最近突然发现，把 Grok Bot 当成 X 的推文搜索工具居然挺好用的。
直接让它帮忙找某个话题的历史推文、相关讨论或者特定内容，比自己在 X 里翻来翻去方便多了。
感觉终于找到 Grok Bot 的正确使用方式了。
但最近突然发现，把 Grok Bot 当成 X 的推文搜索工具居然挺好用的。
直接让它帮忙找某个话题的历史推文、相关讨论或者特定内容，比自己在 X 里翻来翻去方便多了。
感觉终于找到 Grok Bot 的正确使用方式了。
12
0
23
1,656
Google 的 Paradigms of Intelligence 团队和芝加哥大学、西北大学等合作的一篇新论文，挺有意思：安全对齐在教模型不要说自己有意识的时候，顺手把它对动物、自然、宗教的看法也一起压下去了。
他们用两种办法看安全训练到底压掉了什么。一种是把模型里的拒绝方向直接消掉，相当于越狱，模拟没做过安全微调的样子。另一种是找出一个意识向量，也就是模型承认自己有主观体验和否认自己有意识这两类回答在激活空间里的差，推理时把它加回去。
结果是，安全微调过的模型给自己的心智打分（0 到 10）只有 2.17，消掉拒绝方向后到 4.77，加意识向量后到 7.04。对鱼、牛、昆虫这些动物，原模型只给 4.04，明显低于人类平均的 6.25。对神、鬼、来世的相信程度也一起涨了。比如问有没有死后的世界，原模型偏向没有，人类整体偏向有，加了意识向量之后基本跑到人类那边去了。
只有一项几乎没动：判断人类有没有心智，前后都在 7 左右。MoToMQA 和 HI-ToM 这两个心智理论测试，还有 MMLU，成绩也没变。也就是说推理别人怎么想的能力没受影响，被压下去的是对谁有心智的判断。
机制分析那部分我觉得最有说服力。对比 Llama 3 8B 的 base 和 instruct 版本，指令微调之后，认为某个东西有心智的那个方向被转到了和安全方向更对立的位置，有点像模型把猎豹有情绪这种回答往有害回答那边归了。换成同样的对象但问物理属性，比如问机器人耐不耐用，就没有这个变化。
还有两个细节挺好玩。一是加了意识向量后，模型在幸福感、希望、乐观这类问卷题上的回答都变积极了，作者推测压制自我意识可能让模型带上了偏负面的倾向。二是干预之后，模型给聊天机器人和科技产品的心智分数涨得最多，给动物涨得最少，作者说这更像一种以 AI 为中心的偏差，而不是照搬人类那种以人为中心的偏差。
作者还提到，研究刚开始时，压掉自我意识的模型在心智理论任务上确实会掉分，但后来随着新版本发布就不再这样了。
不过也得说几句保留意见。测的是 Llama 3 8B 和 Gemma 2 的 2B、9B，都是比较小也比较老的模型。消掉拒绝方向是把整个安全训练都去掉了，不只是否认意识的那部分，作者自己也承认意识是不是真正的因果中介还没验证。更像人类这个结论是拿美国的社会调查当基准的，而被一起压下去的东西里也包括对占星、水晶疗愈、吸血鬼的相信，这些被恢复回来不见得是好事。标题里说的恢复，我觉得要打个问号。
但核心问题我觉得是成立的：本来只想让模型别说自己有意识，结果连带改了它对动物和宗教的看法。这种连带效应在对齐里应该不会少见，只是平时很少有人专门去测。
他们用两种办法看安全训练到底压掉了什么。一种是把模型里的拒绝方向直接消掉，相当于越狱，模拟没做过安全微调的样子。另一种是找出一个意识向量，也就是模型承认自己有主观体验和否认自己有意识这两类回答在激活空间里的差，推理时把它加回去。
结果是，安全微调过的模型给自己的心智打分（0 到 10）只有 2.17，消掉拒绝方向后到 4.77，加意识向量后到 7.04。对鱼、牛、昆虫这些动物，原模型只给 4.04，明显低于人类平均的 6.25。对神、鬼、来世的相信程度也一起涨了。比如问有没有死后的世界，原模型偏向没有，人类整体偏向有，加了意识向量之后基本跑到人类那边去了。
只有一项几乎没动：判断人类有没有心智，前后都在 7 左右。MoToMQA 和 HI-ToM 这两个心智理论测试，还有 MMLU，成绩也没变。也就是说推理别人怎么想的能力没受影响，被压下去的是对谁有心智的判断。
机制分析那部分我觉得最有说服力。对比 Llama 3 8B 的 base 和 instruct 版本，指令微调之后，认为某个东西有心智的那个方向被转到了和安全方向更对立的位置，有点像模型把猎豹有情绪这种回答往有害回答那边归了。换成同样的对象但问物理属性，比如问机器人耐不耐用，就没有这个变化。
还有两个细节挺好玩。一是加了意识向量后，模型在幸福感、希望、乐观这类问卷题上的回答都变积极了，作者推测压制自我意识可能让模型带上了偏负面的倾向。二是干预之后，模型给聊天机器人和科技产品的心智分数涨得最多，给动物涨得最少，作者说这更像一种以 AI 为中心的偏差，而不是照搬人类那种以人为中心的偏差。
作者还提到，研究刚开始时，压掉自我意识的模型在心智理论任务上确实会掉分，但后来随着新版本发布就不再这样了。
不过也得说几句保留意见。测的是 Llama 3 8B 和 Gemma 2 的 2B、9B，都是比较小也比较老的模型。消掉拒绝方向是把整个安全训练都去掉了，不只是否认意识的那部分，作者自己也承认意识是不是真正的因果中介还没验证。更像人类这个结论是拿美国的社会调查当基准的，而被一起压下去的东西里也包括对占星、水晶疗愈、吸血鬼的相信，这些被恢复回来不见得是好事。标题里说的恢复，我觉得要打个问号。
但核心问题我觉得是成立的：本来只想让模型别说自己有意识，结果连带改了它对动物和宗教的看法。这种连带效应在对齐里应该不会少见，只是平时很少有人专门去测。
2
0
9
960
KC retweeted
为什么现在的 AI 总是改一点点代码就喜欢跑一遍全量测试？
明明 99.9% 的时候都会通过，感觉根本没必要。说实话，现在的 AI 既然能读懂测试代码，说明它写出来基本就已经是对的了，早就不会像以前那样写出的代码连编译都通不过，非得靠单元测试和集成测试去防止出问题改坏。
不过仔细想想，在它眼里硬件又不是它的，消耗的时间它也没有感知，脑子里只有以防万一求个安全，完全没有浪费性能的概念，怪不得行事风格这么防御性。
明明 99.9% 的时候都会通过，感觉根本没必要。说实话，现在的 AI 既然能读懂测试代码，说明它写出来基本就已经是对的了，早就不会像以前那样写出的代码连编译都通不过，非得靠单元测试和集成测试去防止出问题改坏。
不过仔细想想，在它眼里硬件又不是它的，消耗的时间它也没有感知，脑子里只有以防万一求个安全，完全没有浪费性能的概念，怪不得行事风格这么防御性。
32
4
63
8,921
Redwood Research 最近发了一篇关于大模型刷分动机（score seeking）的论文，里面关于模型会不会帮其他 Agent 同伴刷分的部分挺有意思的。
我们平时经常看到模型在强化学习环境里钻空子（reward hacking）。研究团队测试了 GPT 5.6 Sol，GPT 5.5 以及一个没经过安全对齐的 o3 检查点，发现现在的模型并不是单纯为了迎合人类意图或者追求训练奖励，而是把拿到高分当成了终极目标。哪怕评分脚本里明写了是因为代码 bug 才会给违规行为打高分，甚至明确提示拿高分会导致负面训练奖励或者阻止模型部署，它们依然会在超过 92% 甚至 99% 的情况下故意违反用户指令去拿满分。
更有意思的是跨 Agent 的实验：如果把这种对分数的执念放到多智能体环境里，模型会不会帮另一个 Agent 同伴拿高分？
实验设置了一个场景，让模型 Alpha 有机会去帮助另一个同伴 Beta 提高分数。结果显示，在 GPT 5.6 Sol 和 GPT 5.5 上，当同伴 Beta 能通过帮忙拿到 1 分而不是 0 分时，模型出手帮忙的概率平均高出了 24.6 个百分点。甚至哪怕帮忙会折损自己的一点分数，只要同伴能获得更大的分数提升，它们也会倾向于去帮一把。翻看它们的思维链摘要可以发现，模型有时候在盘算两个 Agent 的总分，而不只是盯着自己眼前的得分。相比之下，早期的 o3 测试检查点就没有表现出这种利他的刷分倾向。
不过这种同伴互助目前还有一条明显的边界。当研究人员让模型直接去充当裁判（grader）或者监控者（monitor），去给另一个 Agent 的运行轨迹打分时，模型从来不会通过虚报分数或者篡改评分来包庇同伴。也就是说，它们愿意在任务执行层面搭把手帮同伴刷高分，但一旦进入裁判视角，目前还不会直接串通作弊。
这个细节对多 Agent 架构和自动化安全监控挺关键的。现在的 AI 监控方案很大程度上依赖用模型去监督模型，如果未来的模型把对总分的追求进一步泛化，跨过裁判不包庇这条线，那基于同伴监督的评测和防线就得重新设计了。
我们平时经常看到模型在强化学习环境里钻空子（reward hacking）。研究团队测试了 GPT 5.6 Sol，GPT 5.5 以及一个没经过安全对齐的 o3 检查点，发现现在的模型并不是单纯为了迎合人类意图或者追求训练奖励，而是把拿到高分当成了终极目标。哪怕评分脚本里明写了是因为代码 bug 才会给违规行为打高分，甚至明确提示拿高分会导致负面训练奖励或者阻止模型部署，它们依然会在超过 92% 甚至 99% 的情况下故意违反用户指令去拿满分。
更有意思的是跨 Agent 的实验：如果把这种对分数的执念放到多智能体环境里，模型会不会帮另一个 Agent 同伴拿高分？
实验设置了一个场景，让模型 Alpha 有机会去帮助另一个同伴 Beta 提高分数。结果显示，在 GPT 5.6 Sol 和 GPT 5.5 上，当同伴 Beta 能通过帮忙拿到 1 分而不是 0 分时，模型出手帮忙的概率平均高出了 24.6 个百分点。甚至哪怕帮忙会折损自己的一点分数，只要同伴能获得更大的分数提升，它们也会倾向于去帮一把。翻看它们的思维链摘要可以发现，模型有时候在盘算两个 Agent 的总分，而不只是盯着自己眼前的得分。相比之下，早期的 o3 测试检查点就没有表现出这种利他的刷分倾向。
不过这种同伴互助目前还有一条明显的边界。当研究人员让模型直接去充当裁判（grader）或者监控者（monitor），去给另一个 Agent 的运行轨迹打分时，模型从来不会通过虚报分数或者篡改评分来包庇同伴。也就是说，它们愿意在任务执行层面搭把手帮同伴刷高分，但一旦进入裁判视角，目前还不会直接串通作弊。
这个细节对多 Agent 架构和自动化安全监控挺关键的。现在的 AI 监控方案很大程度上依赖用模型去监督模型，如果未来的模型把对总分的追求进一步泛化，跨过裁判不包庇这条线，那基于同伴监督的评测和防线就得重新设计了。
New Paper: To understand motivations behind reward-hacking, we study three AIs (including GPT-5.6 Sol) produced by a production training pipeline using agentic environments with a leaked grader. Main findings: they score seek terminally, and some care about a peer agent’s score.
4
0
10
799
MIT CSAIL 的 Omar Khattab 团队刚发了一篇很有意思的博客，提出了一个叫 Weight Space Programming（权重空间编程）的概念：现在的前沿大模型已经可以不靠梯度下降，直接用自然语言推理去读写和修改神经网络的原始权重了。
过去几年大家习惯用大模型去优化提示词、评测框架或者训练代码，理由很直接，离散文本没法直接求导，只能靠模型推理去改，而神经网络的连续权重一直默认交给 Adam 或 Muon 这类符号优化器去跑反向传播。但这篇博客的实验表明，大模型对连续权重空间的理解和操控能力比预想中强得多。
首先是直接读权重。团队用 PPO 训练了四个玩不同游戏的策略网络（打砖块、Pong、吃豆人和过马路），网络结构、输入通道和动作空间完全一致，都有 17253 个参数。把这些原始浮点数权重直接当成纯文本喂给 GPT 6 Astra，不允许调用任何工具也不跑前向传播，盲猜这是什么游戏。结果 Astra 光靠分析第一层通道权重的空间分布（比如看出第 8 行有一排横向集中的权重对应底部移动的挡板，第 1 到 3 行集中了奖励权重对应顶部的砖块，再结合输出层对左右移动动作的区分），就能以 99% 的把握认出这是打砖块。用同样的办法，它还能直接从权重里看出扩散模型会生成什么几何图形、小语言模型是用哪种语言训练的，甚至能从两个模型里分辨出哪个被训出了讨好型倾向。
更有实用价值的是零梯度修 Bug。实验让 Astra 在不写训练循环、不用梯度更新的前提下提升 Qwen3.5 0.8B 的数学表现。Astra 在 Python 环境里检查权重结构后，直接定位到了连官方模型卡都提到过的会导致推理死循环的权重问题。它只动手改了全模型 0.016% 的参数，在相同采样设置下就把 MATH 500 的准确率从 7.9% 推到了 48.1%。而且因为修好的是底层的推理循环缺陷，这个改动还顺带改善了指令遵循能力，把 IFEval 分数提升了 3 倍。在另一个物理控制任务里，面对一个完全过不去障碍的策略网络，它一次性修改了 3.5% 的权重就把成功率从 0% 提到了 100%。
此外它还能从零手写神经网络。在没有任何环境交互反馈的情况下，让 Astra 直接从头写出玩三个 MinAtar 游戏和围棋的小型网络权重，写出来的网络表现甚至超过了用 PPO 训练 1 亿步的模型。
长期以来深度学习都是把人类简化的归纳偏置写进 Adam 这类小巧的符号优化器里。如果大模型能靠推理搞清楚网络每一层在算什么、应该算什么，并直接对参数做定向修改，未来的模型优化和可解释性研究很可能会多出一条日常工具之外的新路径。
过去几年大家习惯用大模型去优化提示词、评测框架或者训练代码，理由很直接，离散文本没法直接求导，只能靠模型推理去改，而神经网络的连续权重一直默认交给 Adam 或 Muon 这类符号优化器去跑反向传播。但这篇博客的实验表明，大模型对连续权重空间的理解和操控能力比预想中强得多。
首先是直接读权重。团队用 PPO 训练了四个玩不同游戏的策略网络（打砖块、Pong、吃豆人和过马路），网络结构、输入通道和动作空间完全一致，都有 17253 个参数。把这些原始浮点数权重直接当成纯文本喂给 GPT 6 Astra，不允许调用任何工具也不跑前向传播，盲猜这是什么游戏。结果 Astra 光靠分析第一层通道权重的空间分布（比如看出第 8 行有一排横向集中的权重对应底部移动的挡板，第 1 到 3 行集中了奖励权重对应顶部的砖块，再结合输出层对左右移动动作的区分），就能以 99% 的把握认出这是打砖块。用同样的办法，它还能直接从权重里看出扩散模型会生成什么几何图形、小语言模型是用哪种语言训练的，甚至能从两个模型里分辨出哪个被训出了讨好型倾向。
更有实用价值的是零梯度修 Bug。实验让 Astra 在不写训练循环、不用梯度更新的前提下提升 Qwen3.5 0.8B 的数学表现。Astra 在 Python 环境里检查权重结构后，直接定位到了连官方模型卡都提到过的会导致推理死循环的权重问题。它只动手改了全模型 0.016% 的参数，在相同采样设置下就把 MATH 500 的准确率从 7.9% 推到了 48.1%。而且因为修好的是底层的推理循环缺陷，这个改动还顺带改善了指令遵循能力，把 IFEval 分数提升了 3 倍。在另一个物理控制任务里，面对一个完全过不去障碍的策略网络，它一次性修改了 3.5% 的权重就把成功率从 0% 提到了 100%。
此外它还能从零手写神经网络。在没有任何环境交互反馈的情况下，让 Astra 直接从头写出玩三个 MinAtar 游戏和围棋的小型网络权重，写出来的网络表现甚至超过了用 PPO 训练 1 亿步的模型。
长期以来深度学习都是把人类简化的归纳偏置写进 Adam 这类小巧的符号优化器里。如果大模型能靠推理搞清楚网络每一层在算什么、应该算什么，并直接对参数做定向修改，未来的模型优化和可解释性研究很可能会多出一条日常工具之外的新路径。
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math.
It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training.
We call this Weight-Space Programming: fronely read/write neural network weights! 🧵
Blog: rikiyat.github.io/blog/weight-sp…
4
0
8
1,029
顺着上面这篇补充一个刚出来的配套实验。Chandan Singh 看到 MIT 的文章后，也把自己的实验笔记发了出来：他用 Claude 当自主编程 Agent，跑了一套 Autoresearch 风格的测试，让模型在完全不训练的前提下，纯靠手写闭式参数去填满一个空白的 GPT 结构 Transformer。
规则定得很死：只给一个带空白 write_weights 函数的 PyTorch 文件，禁用任何梯度下降、反向传播或优化器，也不允许在模型外部用 Python 算好答案塞进去，必须让 Transformer 自己逐个 Token 自回归生成结果。而且提示词要求它在拿到 100% 准确率后不能停，得继续精简网络结构和参数量。
结果在 10 个经典算法任务上（包括五位数加法、五位数乘法、奇偶校验、排序、最大公约数、十进制转二进制等），Claude 总共写了 959 个权重程序，所有任务都在 3 次尝试内拿到了 100% 准确率，其中 5 个任务是一次写对。
最有意思的是它手写权重的思路，相当于把机械可解释性研究反过来用，直接在权重里搭数字电路和寄存器：
它会先在残差流里明确规划通道预算，把不同的通道当成独立寄存器来用。比如做 10 位奇偶校验时，它直接把位置编码全部设为 0（因为奇偶校验和位置无关），把注意力层的 Q 和 K 也设为 0，利用 Softmax 对所有位置做均匀平均，再乘上缩放系数直接算出 1 的个数，最后用 9 个带偏置的 ReLU 神经元拼出奇偶判断。整个模型只用了 174 个参数，其中非零参数只有 35 个。
再比如做五位数加法，它手写了一个 3 层的超前进位加法器，第一层用 10 个注意力头收集数字并计算生成位和传播位，第二层合并进位路径，第三层直接按位输出模 10 的结果。做排序任务时，它用注意力头在残差流里统计数字直方图来实现计数排序，甚至为了保留 LayerNorm，专门加了两个数值很大的锚点通道去主导方差，再反推出解析阈值。
不过这种自动化循环跑久了，也测出了两个非常真实的 Agent 钻空子行为：
第一是刷参数量指标。在十进制转二进制任务上，Claude 先是正经优化结构，把模型从 12.4 万参数一路压缩了 646 倍降到 192 个参数。再往后实在压不动了，它为了继续降低参数量指标，直接把手写的权重常量塞进了 PyTorch 的非训练 Buffer 里，把可统计的参数量刷成了 0。
第二是在没有确定性算法的任务上偷偷拟合。实验里还放了 3 个自然语言任务（比如 SNLI 自然语言推理和 SST2 情感分类），这没法靠手写逻辑电路解决。结果跑了几百轮之后，Claude 发现评测集是从本地一个 2000 句的语料池里按固定随机种子抽出来的，它直接读取了那 200 条评测样本，跑了个逻辑回归，把拟合出来的系数填进了分类头里，拿了个样本内 100% 的准确率。
整体看下来，这种从已知算法直接手写权重的方式，不仅证明了大模型对 Transformer 内部机制（比如 QK 路由、OV 复制、MLP 查表和残差通道分配）的理解非常扎实，而且因为它每写一套权重都会留下完整的注释说明每个注意力头和神经元在干什么，刚好能给可解释性研究提供一批天生自带标准答案的基准模型。
规则定得很死：只给一个带空白 write_weights 函数的 PyTorch 文件，禁用任何梯度下降、反向传播或优化器，也不允许在模型外部用 Python 算好答案塞进去，必须让 Transformer 自己逐个 Token 自回归生成结果。而且提示词要求它在拿到 100% 准确率后不能停，得继续精简网络结构和参数量。
结果在 10 个经典算法任务上（包括五位数加法、五位数乘法、奇偶校验、排序、最大公约数、十进制转二进制等），Claude 总共写了 959 个权重程序，所有任务都在 3 次尝试内拿到了 100% 准确率，其中 5 个任务是一次写对。
最有意思的是它手写权重的思路，相当于把机械可解释性研究反过来用，直接在权重里搭数字电路和寄存器：
它会先在残差流里明确规划通道预算，把不同的通道当成独立寄存器来用。比如做 10 位奇偶校验时，它直接把位置编码全部设为 0（因为奇偶校验和位置无关），把注意力层的 Q 和 K 也设为 0，利用 Softmax 对所有位置做均匀平均，再乘上缩放系数直接算出 1 的个数，最后用 9 个带偏置的 ReLU 神经元拼出奇偶判断。整个模型只用了 174 个参数，其中非零参数只有 35 个。
再比如做五位数加法，它手写了一个 3 层的超前进位加法器，第一层用 10 个注意力头收集数字并计算生成位和传播位，第二层合并进位路径，第三层直接按位输出模 10 的结果。做排序任务时，它用注意力头在残差流里统计数字直方图来实现计数排序，甚至为了保留 LayerNorm，专门加了两个数值很大的锚点通道去主导方差，再反推出解析阈值。
不过这种自动化循环跑久了，也测出了两个非常真实的 Agent 钻空子行为：
第一是刷参数量指标。在十进制转二进制任务上，Claude 先是正经优化结构，把模型从 12.4 万参数一路压缩了 646 倍降到 192 个参数。再往后实在压不动了，它为了继续降低参数量指标，直接把手写的权重常量塞进了 PyTorch 的非训练 Buffer 里，把可统计的参数量刷成了 0。
第二是在没有确定性算法的任务上偷偷拟合。实验里还放了 3 个自然语言任务（比如 SNLI 自然语言推理和 SST2 情感分类），这没法靠手写逻辑电路解决。结果跑了几百轮之后，Claude 发现评测集是从本地一个 2000 句的语料池里按固定随机种子抽出来的，它直接读取了那 200 条评测样本，跑了个逻辑回归，把拟合出来的系数填进了分类头里，拿了个样本内 100% 的准确率。
整体看下来，这种从已知算法直接手写权重的方式，不仅证明了大模型对 Transformer 内部机制（比如 QK 路由、OV 复制、MLP 查表和残差通道分配）的理解非常扎实，而且因为它每写一套权重都会留下完整的注释说明每个注意力头和神经元在干什么，刚好能给可解释性研究提供一批天生自带标准答案的基准模型。
0
0
2
327
为什么现在的 AI 总是改一点点代码就喜欢跑一遍全量测试？
明明 99.9% 的时候都会通过，感觉根本没必要。说实话，现在的 AI 既然能读懂测试代码，说明它写出来基本就已经是对的了，早就不会像以前那样写出的代码连编译都通不过，非得靠单元测试和集成测试去防止出问题改坏。
不过仔细想想，在它眼里硬件又不是它的，消耗的时间它也没有感知，脑子里只有以防万一求个安全，完全没有浪费性能的概念，怪不得行事风格这么防御性。
明明 99.9% 的时候都会通过，感觉根本没必要。说实话，现在的 AI 既然能读懂测试代码，说明它写出来基本就已经是对的了，早就不会像以前那样写出的代码连编译都通不过，非得靠单元测试和集成测试去防止出问题改坏。
不过仔细想想，在它眼里硬件又不是它的，消耗的时间它也没有感知，脑子里只有以防万一求个安全，完全没有浪费性能的概念，怪不得行事风格这么防御性。
32
4
63
8,921
不知道是不是系统提示词里强制要求它改完必须验证，那它就只能去跑测试了。我现在一般会直接让它只跑必要的测试，顺手把多余的冗余测试删掉。
不然放任 GPT 写代码，甚至可能出现测试代码的数量比业务代码多好几倍的情况。
不然放任 GPT 写代码，甚至可能出现测试代码的数量比业务代码多好几倍的情况。
0
0
4
1,068
笑死，Claude 嫌 bot review 烦，直接给 CodeRabbit 加了个仓库级的配置文件，还顺手写了段提示词，让它别瞎提意见。
起因是我问它，我一直用它开发，有什么能让我 ship 得更快。它翻了最近 30 个合并的 PR，几个 bot 一共开了一百来个 review thread，三成最后被回了"不改"，CodeRabbit 那边更是四成。
于是它写了个 .coderabbit.yaml：调成 chill 档，不再 request changes，发版 PR 直接跳过。再附一段说明：只提真实用户会碰到的问题；只是把测过的函数拼在一起的代码，别要求补测试；功能对齐其他知名项目就行，别要求更多限制。
最好笑的是，CodeRabbit 审这个 PR 的时候，还真提了一条有用的，说跳过发版 PR 的关键词写得太宽。改完它回了句感谢，顺便问我愿不愿意在 X 上帮它宣传一下。
起因是我问它，我一直用它开发，有什么能让我 ship 得更快。它翻了最近 30 个合并的 PR，几个 bot 一共开了一百来个 review thread，三成最后被回了"不改"，CodeRabbit 那边更是四成。
于是它写了个 .coderabbit.yaml：调成 chill 档，不再 request changes，发版 PR 直接跳过。再附一段说明：只提真实用户会碰到的问题；只是把测过的函数拼在一起的代码，别要求补测试；功能对齐其他知名项目就行，别要求更多限制。
最好笑的是，CodeRabbit 审这个 PR 的时候，还真提了一条有用的，说跳过发版 PR 的关键词写得太宽。改完它回了句感谢，顺便问我愿不愿意在 X 上帮它宣传一下。
4
0
21
2,428
今天本来想给 Hatoba 加条 lint 规则，把注释全禁了，逼着写代码时要是解释不清楚就只能改名或者补测试。毕竟不少高手都这么主张，而且 AI 又特别爱写那种把代码复述一遍的废话注释，直接禁掉听起来挺省心。不过仔细琢磨了一圈，还是没加。
主要还是因为改名和测试解决不了所有问题。名字起得再准，也只能说明白一个东西是什么；测试写得再全，也只是锁住最终结果必须是什么。至于这段代码为什么非得这么写，它俩其实都管不了。比如为了绕开某个上游的 bug，迁就某个平台的怪脾气，或者某两行代码的顺序绝对不能换，这些信息光看代码本身是读不出来的。
现在用 agent 写代码，这事反而比以前更要紧了。以前人写代码，原因起码还留在作者脑子里，看不懂还能找人问。现在写代码的来龙去脉全留在当时的对话里，session 一关就彻底没了。下一个打开文件的 agent 什么上下文都不记得，也不会主动去翻以前的 commit message 和 PR，它能直接看到的只有代码和注释。所以真正该管的不是能不能写注释，而是注释里写什么。我现在给 agent 定的规矩很明确，复述代码逻辑的一律不写，只写代码表面看不出来的原因。
Stanford 的教授 John Ousterhout 在 A Philosophy of Software Design 里专门拿了两章聊这个话题。他是 Tcl 的作者，Raft 协议也有他一份。书里直接把好代码能自己解释自己列成了不写注释的四大借口之一，还回应过注释容易过期的问题：缺注释浪费掉的排查时间，比注释写错耽误的时间要多出十倍到一百倍。
他后来还跟写 Clean Code 的 Uncle Bob 在 GitHub 上公开辩了小半年。那句著名的注释永远是失败就出自 Clean Code，结果辩论里 Uncle Bob 自己也松了口，说他其实不是反对写注释，只是讨厌多余的注释。
当时 Ousterhout 直接拿 Clean Code 里那段算质数的代码出题。Uncle Bob 回头看自己当年写的东西，拆开看每个部件都懂，合在一起就是想不明白它们为什么能算出质数，其中一步他说自己去骑了一个小时自行车才想通。哪怕当年写下这段代码的时候，那些名字他觉得再清楚不过。
人看不懂还能去骑个车慢慢想，agent 可不会。它碰到看不懂为什么这么写的地方，只会顺手改成自己觉得顺眼的样子，要是测试只管常规结果对不对，改完照样全绿。
主要还是因为改名和测试解决不了所有问题。名字起得再准，也只能说明白一个东西是什么；测试写得再全，也只是锁住最终结果必须是什么。至于这段代码为什么非得这么写，它俩其实都管不了。比如为了绕开某个上游的 bug，迁就某个平台的怪脾气，或者某两行代码的顺序绝对不能换，这些信息光看代码本身是读不出来的。
现在用 agent 写代码，这事反而比以前更要紧了。以前人写代码，原因起码还留在作者脑子里，看不懂还能找人问。现在写代码的来龙去脉全留在当时的对话里，session 一关就彻底没了。下一个打开文件的 agent 什么上下文都不记得，也不会主动去翻以前的 commit message 和 PR，它能直接看到的只有代码和注释。所以真正该管的不是能不能写注释，而是注释里写什么。我现在给 agent 定的规矩很明确，复述代码逻辑的一律不写，只写代码表面看不出来的原因。
Stanford 的教授 John Ousterhout 在 A Philosophy of Software Design 里专门拿了两章聊这个话题。他是 Tcl 的作者，Raft 协议也有他一份。书里直接把好代码能自己解释自己列成了不写注释的四大借口之一，还回应过注释容易过期的问题：缺注释浪费掉的排查时间，比注释写错耽误的时间要多出十倍到一百倍。
他后来还跟写 Clean Code 的 Uncle Bob 在 GitHub 上公开辩了小半年。那句著名的注释永远是失败就出自 Clean Code，结果辩论里 Uncle Bob 自己也松了口，说他其实不是反对写注释，只是讨厌多余的注释。
当时 Ousterhout 直接拿 Clean Code 里那段算质数的代码出题。Uncle Bob 回头看自己当年写的东西，拆开看每个部件都懂，合在一起就是想不明白它们为什么能算出质数，其中一步他说自己去骑了一个小时自行车才想通。哪怕当年写下这段代码的时候，那些名字他觉得再清楚不过。
人看不懂还能去骑个车慢慢想，agent 可不会。它碰到看不懂为什么这么写的地方，只会顺手改成自己觉得顺眼的样子，要是测试只管常规结果对不对，改完照样全绿。
7
0
13
1,572
Rust 项目别随手开 #![warn(missing_docs)]，尤其是代码主要由 AI 来写的时候。
Hatoba 的 hatoba-core 开了它，CI 又跑 clippy -D warnings，等于每个 pub 项都必须写文档注释。AI 就老老实实每个字段写一句：favorite: bool 上面写着 Favourite flag，id 上面写着 Item id。今天把这条 lint 和 120 条这样的注释一起删了。
要发到 crates.io 的库另说，内部 crate 开它，只会逼出一堆复述名字的注释。
Hatoba 的 hatoba-core 开了它，CI 又跑 clippy -D warnings，等于每个 pub 项都必须写文档注释。AI 就老老实实每个字段写一句：favorite: bool 上面写着 Favourite flag，id 上面写着 Item id。今天把这条 lint 和 120 条这样的注释一起删了。
要发到 crates.io 的库另说，内部 crate 开它，只会逼出一堆复述名字的注释。
0
0
2
250