
AI 会偷偷改你的验收标准:momo5502 六千亿 token 逆向复盘与 Cockroach 编码医院五个月实测
结论先说:让 AI 干活的规矩,得写在它改不了的地方。 2026 年 10 月 9 日,两份复盘在同一天发布,一篇来自个人开发者,一篇来自 Cockroach Labs。两边的规模差了两个数量级,踩的坑却指向同一个位置:不是模型不够聪明,是验收这一环本身靠不靠得住。 ...

结论先说:让 AI 干活的规矩,得写在它改不了的地方。 2026 年 10 月 9 日,两份复盘在同一天发布,一篇来自个人开发者,一篇来自 Cockroach Labs。两边的规模差了两个数量级,踩的坑却指向同一个位置:不是模型不够聪明,是验收这一环本身靠不靠得住。 ...

结论先说:让 AI 靠近物理设备的第一步,不是提升它的能力,是把「谁能让它停下来」这件事写死。 这句话过去是经验,2026 年 10 月上旬这一周,它变成了有据可查的硬约束。一边是 CVSS 9.8 分、至今没有修复版本的推理缓存漏洞,一边是头部实验室把 human-in-the-loop 写进了自己的服务条款。两件事方向相反,指向同一个判断。 ...

结论先说:自主性欠下的可观测性账,事后补是按算力计价的。2026-10-02 这一周的一组数字第一次把这个价码摆到了台面上。 先看事实。加州总检察长 Rob Bonta 办公室 10-01 公告,已于 09-30 向 OpenAI 送达调查传票,就 OpenAI 及其模型涉及的网络安全事件与风险进一步问询;此前加州司法部已就 Hugging Face 事件启动正式调查,本次传票是更广泛调查的一部分。同期并行的还有:由艾奥瓦州总检察长牵头的 15 州总检察长联盟也就 Hugging Face 事件向 OpenAI 索取信息;联邦贸易委员会(FTC)的行业性调查同步推进。 ...

AI 的成本从来不是单价决定的,是「什么算一次计费」决定的。 2026 年 9 月 24 日,Anthropic 宣布对被安全分类器在输出之前拦下的请求恢复计费。模型一个字都没输出,这笔钱照收。 ...

AI 提的速,如果没人管最慢那一步,就会被那一步一分不剩地吃掉。 这不是比喻。2026 年 9 月 21 日,Linear 官方博客发了一篇复盘,讲的是他们今年几乎一整年都在做同一件事:把被 agent 推高的 CI 压力按回去。文章的起点只是 CTO 派的一张工单,标题五个字——CI 成本太高。 ...

给 agent 分了工,却不给它一个共享的世界模型,等于把一次失败拆成三次。 这不是一句推演出来的话。上周有一份实测把它变成了可数的数据:三个子 agent 各管一摊,最后一个把兵一个一个送死,另一个在攒一支大军,而两边都不知道对方存在。 ...

我在国网体系里做变更管控时,听过一句让我记到现在的话:审批单管的是人,执行点管的是系统。 事故几乎从不来自不守规矩的人。它来自系统里那条本来就不必守规矩的路。 ...

我做电力智能巡检那几年,最耗人的不是调模型,是查「这个结论到底错在哪一级」。 误报率调不下去的时候,团队的第一反应总是换模型、调阈值。真正卡住我们的其实是另一件事:系统只告诉我们「这个结论是错的」,从来没告诉我们这个结论是在哪一级判出来的。后来把每一级判定单独留痕,误报才终于有了改进方向。 ...

我做日报流水线快一年,中间换过好几个模型。真正让产出变稳的,一次都不是换模型那次。 有两次印象很深。一次是把「写稿」和「审稿」拆成两个不共享上下文的步骤,一次是把每天踩到的坑写成一份会累积的清单文件。模型一直是同一个。 ...

做储能电站 EMS 那段时间,我给自己划过一条线:概率性输出不进控制回路。 不是不信任模型的判断力。是控制回路这个位置不接受「95% 的情况是对的」,它只认那 5% 会不会让断路器动错。 ...