OpenAI 用 130 万段真实对话预演新模型上线后的风险
OpenAI 公布 Deployment Simulation:在候选模型发布前,取近期真实对话的上下文,移除旧模型回答,再让候选模型重新生成,以估计新模型在真实流量中出现不良行为的类型和频率。所用对话会去除账户标识与可识别信息,并只来自允许数据用于模型改进的用户。
研究覆盖 2025 年 8 月至 2026 年 3 月间约 130 万段去标识对话,并对 GPT-5 系列 Thinking 模型的 20 类不良行为做预测。聚合结果的中位乘法误差为 1.5 倍;极端尾部误差仍可能扩大约 10 倍,因此该方法不适合测量发生率低于二十万分之一的罕见风险。它补足的是“真实使用中多常发生”,不能取代专门寻找低概率高危问题的红队测试。
OpenAI 还用 12 万条内部 GPT-5.4 编码 Agent 轨迹预演 GPT-5.5,并以模型模拟工具返回,避免让候选 Agent 操作真实系统。随着模拟器获得历史仓库、工具调用记录和只读连接器,判别器眼中的模拟真实度从 11.6% 提高到 49.5%,接近随机猜测。这个结果说明,Agent 安全评估的瓶颈不仅是模型,还包括能否复现工具、文件和网络环境。
来源:OpenAI
Anthropic 数据显示:会不会写代码不再是最大分水岭,领域经验仍是
Anthropic 对 Claude Code 真实使用进行了七个月的纵向分析。典型会话约有四轮交互,每条用户提示平均触发 Claude 约 10 个动作和 2400 词输出;用户通常做约 70% 的规划决策,Claude 则承担约 80% 的执行决策。
差异主要出现在用户对任务本身的熟悉程度。被分类为新手的会话,每条提示平均触发约 5 个动作和 600 词输出;专家会话则达到约 12 个动作和 3200 词。专家会话取得“可验证成功”的比例超过新手两倍;一旦任务遇到错误或测试失败,新手会话有 19% 在没有写入代码时被放弃,其他熟练度组为 5%–7%。
职业标签的影响反而较小:在产生代码的会话中,软件相关职业的可验证成功率约 34%,其他职业约 29%;使用更宽松的“至少部分成功”口径,两者分别为 89% 和 88%。这支持一个更精确的判断:编码 Agent 正在降低编程背景门槛,但尚未替代业务判断、问题拆解和验收能力。Anthropic 也提醒,这些结论来自模型对会话文本的分类,无法确认代码后来是否真正投入生产。
来源:Anthropic
Qwen-RobotManip 用 3.81 万小时开放数据训练跨本体机器人模型
Qwen 团队发布 Qwen-RobotManip 技术报告,尝试把不同机器人、动作表示和行为数据对齐到统一的视觉—语言—动作模型中。其人类到机器人数据合成管线把第一视角手部演示转换为 15 种机器人平台的轨迹;预训练语料约 3.81 万小时,来源为开放数据集和人类视频,不依赖团队自建的私有机器人采集。
团队报告称,模型在 RoboChallenge 排名第一,相对先前最佳结果提高 20%,并在 AgileX ALOHA、Franka、UR、ARX 等真机平台上验证了零样本指令跟随、受扰恢复和跨本体迁移。需要保留的边界是:这些比较目前主要来自作者报告,且团队认为传统基准不足以反映预训练质量,因此采用了一组自选的分布外测试;独立复现仍是判断泛化能力的下一道门槛。
来源:Qwen 官方介绍、技术报告
美国司法部支持 xAI 继续使用未获许可的燃气轮机
据 TechCrunch 6 月 16 日报道,美国司法部在 NAACP 针对 xAI 孟菲斯数据中心的诉讼中支持 xAI。争议焦点是数据中心附近数十台拖车式天然气轮机是否应按固定污染源接受许可;xAI 主张移动设备可获得一年豁免,原告则认为其实际使用方式仍受联邦空气法规约束。
xAI 在当地使用的轮机已增至 57 台。SpaceX 的上市文件还披露,未来三年计划为 AI 数据中心采购 28 亿美元燃气轮机,其中至少 20 亿美元用于移动式设备。这个案件把 AI 算力的资源问题推到了更具体的法律层面:训练需求、军方用途和国家安全主张,正在与地方空气质量和许可制度直接冲突。
来源:TechCrunch
Plaud 售出逾 200 万台硬件,订阅业务年化收入超过 1 亿美元
AI 录音硬件公司 Plaud 表示,其 Note、Pin 等设备累计出货已超过 200 万台,软件订阅业务的年化收入运行率超过 1 亿美元。公司向 TechCrunch 披露,接近一半设备用户会从基础方案升级至 Pro 或 Unlimited 订阅。
Plaud 的收入结构值得注意:它尚不单独销售纯软件订阅,付费软件基本依附于硬件用户。免费方案提供 300 分钟转写,重度会议用户再购买更高额度与团队功能。这说明至少在会议记录场景,专用采集设备可以成为软件订阅的获客入口;但 Anker、Viaim、Vibe、Pocket 等硬件竞争者也在进入同一市场。
来源:TechCrunch