AI Agent 的下一场竞争,不是会不会写,而是能不能证明写对了
如果你正在把编码 Agent 放进真实业务,今天最值得关注的变化并不是又一个模型刷新榜单,而是行业开始认真回答一个更难的问题。一个在公开题库上表现漂亮的 Agent,进入你那套没有公开过、充满历史包袱的代码库后,究竟还能不能工作。
这也是今天几条消息共同指向的方向。公开基准正在失去部分解释力,模型路由开始承担成本控制,Agent 需要测试并证明自己的交付,而企业自动化的价值也越来越取决于真实流程能否被完整闭环。
Real-SWE 把评测从公开仓库搬进企业私有代码库
Today we are releasing Real-SWE, a benchmark that evaluates frontier AI models on private, real-world, enterprise codebases. Each task comes from a private production codebase that we licensed from a real-world company. These are problems their engineers work on, with all the context and complexity that comes with an existing product. Tasks carry business consequences, such as getting billing right, calculating taxes, or migrating customers, and the benchmark uses native harnesses to evaluate model-and-harness combinations, reflecting how enterprise engineers work in practice.
Real-SWE 的原始信息很直接。它不再只用公开代码仓库衡量 AI 模型,而是让模型面对私有、真实、企业级代码库中的任务。
翻译成企业采购语言,就是不要只问模型在通用榜单上得了多少分,还要问它在你的代码、你的依赖和你的权限体系里能完成多少工作。公开题库可能出现在训练数据里,也很难覆盖一家公司多年积累下来的命名习惯、内部框架和隐性约束。
我的判断是,编码 Agent 的评测正在从“考试成绩”转向“试岗表现”。真正有采购价值的评估,应至少包含三层。先看公开基准,判断基础能力。再用经过脱敏的自有任务集测试迁移能力。最后用人工验收、测试通过率与返工次数衡量交付质量。
对 opcpay.org 的读者来说,这件事的意义很实际。无论你采购的是编码 Agent、客服 Agent,还是支付运营 Agent,都应该尽早建立自己的“小型私有基准”。十到三十个高频真实任务,往往比一张漂亮的公开榜单更能帮助你做出正确选择。
Devin 开始用更强模型测试自己的工作
Cognition sees GPT-6 Astra's ability to test its work and show the results as a way to make code review more efficient. In one example, Devin uses Astra to test Otter Run, an iPhone game, and returns a recording of the game running in a simulator, alongside a report identifying checks that passed and areas left untested. As Cognition co-founder Walden Yan puts it, the team expects that over time they have to manually look at less code and end up shipping more at the end of the day.
OpenAI 与 Cognition 公布的案例显示,Cognition 正在让 Devin 使用 GPT-6 Astra 测试自己的软件工作,并展示验证结果,目标是让工程师少审查一些代码,更快完成发布。
这条消息的中文翻译不是“模型又会写更多代码了”,而是 Agent 开始承担交付证明。它不仅提交修改,还要运行测试、检查结果,并把证据交给人类。
我认为,这是 Agent 产品从演示走向生产环境必须跨过的一道门槛。企业并不真正缺少代码生成,缺的是可追责、可复核、能进入现有发布流程的产出。一个会主动验证的 Agent,即使生成速度稍慢,也可能比只追求一次通过率的产品更有商业价值。
对 SaaS 创业者而言,产品设计应该把“验证证据”当作核心界面,而不是藏在日志里。测试结果、修改范围、失败原因和回滚路径,决定了用户敢不敢把更高价值的任务交给 Agent。
HydraFusion 让多模型路由成为产品能力
In controlled offline evaluations, HydraFusion's selective coding workflows matched or exceeded the evaluated Opus 5 baseline while reducing estimated workflow cost. For each request, HydraFusion chooses among three execution patterns, letting a single model solve the task directly, letting an efficient model draft while a quality gate decides whether to escalate to a stronger model, or letting one model draft while an independent critic from a different model family reviews it. On TerminalBench 2.1, it improved verified task quality by 4.9 percentage points at 67% lower estimated cost compared with Claude Opus 5.
GitHub 的 HydraFusion 研究预览会针对不同编码任务选择不同模型。GitHub 表示,在受控离线评测中,这套选择性工作流达到或超过被测 Opus 5 基线,同时降低了估算工作流成本。
换成更通俗的话,就是不再让最贵的模型包办所有工作。简单任务交给便宜、快速的模型,复杂任务再调用更强模型,系统负责判断何时切换。
我的判断是,模型路由会逐渐像数据库索引一样,从少数基础设施团队的高级优化,变成 AI SaaS 的标准配置。用户未必关心后台调用了哪个模型,但会持续关心结果是否稳定、响应是否够快、价格是否合理。
这对 opcpay.org 读者的意义在于,AI 产品的毛利不该只靠模型厂商降价。团队应记录不同任务的难度、失败率和单位成本,再建立分层路由。哪怕只把摘要、分类等低风险任务迁移到更便宜的模型,也可能形成可观的成本差异。
Marketing Ops as Code 展示了自动化最现实的起点
If you can write down how you do your work, you can automate it. The author, who runs marketing for GitHub in Japan and Korea, did not write the code himself. He wrote down his runbooks, handed them to GitHub Copilot, and grew the automation in conversation. Today, an event he used to assemble by hand over a couple of days sets itself up from a single GitHub Issue, screens its own registrants every morning, and cleans up after itself when it is over. The only requirement is a scriptable way into each tool, an API, or even just a CLI.
GitHub APAC 营销团队的案例把活动从规划到跟进的流程写成可重复执行的自动化。原文的核心观点是,只要一项工作能够被清楚写下来,它就有机会被自动化。
这不是让市场团队都去学习编程,而是把散落在文档、聊天和个人经验里的步骤,变成明确的输入、规则和输出。报名信息如何进入系统,谁负责审批,活动后何时跟进,都可以被视为工作流的一部分。
我的判断是,企业 AI 最容易产生回报的地方,往往不是最有想象力的前台功能,而是那些高频、跨工具、规则相对清楚的后台流程。它们不耀眼,却能直接减少遗漏与重复劳动。
如果你经营一家小型 SaaS,可以从一个每周重复、至少跨越两个工具的流程开始。先把它写清楚,再计算每次耗时与错误成本,最后让 AI 接管其中风险最低的一段。这样的自动化虽然朴素,却更容易在一个月内看见真实回报。
今天四条信息放在一起,给出的信号很清楚。AI Agent 的竞争正在离开单一模型能力,进入真实任务、验证闭环、成本路由和流程落地的综合阶段。对创业者而言,机会也正在从“再做一个聊天框”,转向建立一套让客户敢用、用得起、能验收的工作系统。