日报 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

EU AI Act 透明度条款今天生效:每个聊天机器人和 AI 生成内容都必须标注

2026-08-02

EU AI Act 透明度条款今天生效:你网站上的聊天机器人必须告诉用户它是 AI

2026 年 8 月 2 日,EU AI Act 从一纸法案变成了有牙齿的监管框架。三件事从今天起改变:

Article 50 透明度义务开始适用。 每一个面向欧盟用户的 AI 聊天机器人和语音助手,必须在首次交互时或之前告知用户正在与 AI 交互——告知需清晰可辨,不能藏在页脚或用模糊措辞。AI 生成的合成音频、图像、视频和文本必须以机器可读格式标记。发布 AI 生成的公共事务文本(未经实质性人工编辑)须明确标注。深度伪造内容必须披露。

GPAI 模型执法权启动。 通用 AI 模型的合规义务自 2025 年 8 月已适用,但欧盟委员会 AI Office 的罚款权从今天起才真正激活——可要求供应商提供技术文档、评估模型、采取纠正措施,并在违规时处以最高 €1500 万或全球年营收 3% 的罚款(取较高者)。

成员国须确保至少一个 AI 监管沙盒运行。 允许企业在受控的真实条件下测试 AI 解决方案。

许多企业以为高风险 AI 系统的合规才是今天的主角——那部分已被 7 月 27 日正式生效的 Digital Omnibus 修正案推迟到 2027 年 12 月。真正在今天改变的不是高风险分类,而是透明度。一家公司可能没有任何高风险 AI 系统,但如果它在网站上放了一个聊天机器人、用 AI 生成营销图片、或在社交媒体发布了未经人工审查的 AI 文本,它已经在 Article 50 的管辖范围内。违规罚款最高 €1500 万或全球年营收 3%。

Article 50 的覆盖面极广,不限于高风险系统。欧盟委员会指南草案明确将 AI Agent 纳入适用范围:如果供应商无法可靠预测 Agent 是否会与人类交互,应在所有场景中默认披露。欧盟委员会 AI Act Service Desk 数据显示,透明度义务是仅次于 AI 素养(AI literacy)的第二大合规触发项,影响约 33% 的受访组织。

有个重要的过渡期:2026 年 8 月 2 日前已上市的系统,其机器可读标记要求推迟到 2026 年 12 月 2 日——但仅限这一项技术细节,不是整个 50(2) 推迟。仅执行辅助编辑功能(如语法纠正)或不实质性改变输入语义的系统可以豁免。

European Commission | EU AI Act Transparency Guide | SIXE | Belitsoft

OpenAI Astra 解决十个数学难题:未发布模型首次在开放问题上产生可验证新知识

8 月 1 日,OpenAI 公布了内部下一代模型 Astra 在纯数学和理论计算机科学领域独立解决的十项成果。这些问题跨度极大——高维几何、编码理论、算术电路复杂度、群论、算子代数、量子复杂度和格密码学——每个问题至少在十年内没有任何进展,多数停滞了数十年。

Astra 生成了全部核心论证,按 Sol API 价格计算每道题约 $2,000。人类与同一模型协作将论证整理成论文,随后 Astra 将每个证明在 Lean 中形式化,生成机器可验证的证书和共 249 页手稿。OpenAI 同时发布了每个证明的思维链记录,所有 Lean 证书已公开在 GitHub。

成果包括:首次显式构造非 Sofic 群(von Neumann 时代以来的悬案)、Connes 刚性猜想被否证、一般双人纠缠博弈的量子并行重复定理得证、Ehrhart 体积猜想得证、自 1978 年以来首次改进通用球堆积指数。

OpenAI 在声明中明确区分了人类和模型的贡献:「数学论证本身由我们的系统生成……我们将论证整理成手稿并在 Lean 中形式化,对其正确性负责。」这是对 Leiden 宣言关于 AI 与数学署名问题的直接回应。

边界同样明确:这些结果尚未通过同行评审。形式化证明只能保证逻辑正确,不能保证数学意义——十个问题中哪些会被数学界接受为真正「解决」,哪些会被视为有趣但不完整的贡献,需要领域专家逐一判断。但 AI 系统首次同时贡献了论证、形式化证明和完整思维链——这为同行评审提供了远比一个断言更充分的材料。

OpenAI | Lean Certificates

扫描 7.6 PB HuggingFace 训练数据发现 22 万活跃密钥——且无法撤销

8 月 1 日,Truffle Security 发布已知最大规模的 AI 训练数据凭证扫描结果:在 HuggingFace 上 7.6 PB、1.87 亿个文件的公开数据集中,发现 221,303 个仍可验证的活跃凭证,分布在 6,003 个数据集中。

最危险的三类:

  • 供应链令牌:349 个活跃 GitHub Personal Access Token,其中 223 个有 repo 写入权限,112 个有 admin:org。318 个可推送镜像的 Docker Hub Token。一个 Token 属于某 MCP 注册中心创始人的账户,关联仓库总计超 17.8 万 Star。
  • 云基础设施:8,557 个 GCP 服务账号密钥,其中一个持有 Owner 角色。3,343 个 AWS 密钥通过身份校验,907 个可列出 S3 存储桶,至少 51.7 TB 数据位于配置了禁止公开访问的存储桶中。
  • 数据库:8,594 个仍可认证的数据库登录凭据。6,121/6,802 个 MongoDB 集群仍可连接,最大单集群 617.7 GB。

这些密钥的污染机制与 Git 泄露有本质区别:绝大多数并非由数据集作者直接泄露,而是在上游(GitHub、网页、聊天对话)被 Common Crawl 或 The Stack 抓取,随后随每次去重、过滤和重混进入所有衍生数据集。44% 的凭证出现在多个数据集,单条 Infura 密钥被复制到 1,131 个不同数据集。训练数据集没有 force-push——密钥一旦进入就不可撤销。

受影响的知名训练语料包括 OLMo 3 (32B) 的 dolma3_mix-6T(21,278 条密钥)、StarCoder/The Stack(25,217 条)、SmolLM2(20,035 条)和 EleutherAI 的 Comma v0.1(6,479 条)。Truffle Security 坦言无法评估 ChatGPT、Claude、Gemini 等闭源模型,但其训练语料同样大量依赖 Common Crawl 和公开代码仓库。

研究还发现 11,496 个 AI 服务商密钥。仅按默认月消费下限计算,742 个 OpenAI 密钥和 26 个 Anthropic 密钥每月至少可被消耗约 $76,800。Truffle Security 指出 HuggingFace 每次推送都会运行扫描并向作者发送邮件,但「检测到、通知到、但没有撤销」是大量密钥仍活跃的根本原因。

Truffle Security | HuggingFace Partnership

DeepSeek V4 Flash 正式版:仅靠后训练,Agent 能力全面超越 Pro Preview

7 月 31 日,DeepSeek 将 V4 Flash 从 Preview 升级为正式版(0731)。模型架构、参数(284B 总参/13B 激活/MoE)和 API 价格($0.14/$0.28 per 1M tokens)完全不变,仅通过重新后训练,在所有 9 项 Agent benchmark 上超越自家激活参数 3.8 倍的 V4-Pro-Preview。

最突出的变化:DeepSWE 从 7.3 跃升至 54.4,Cybergym 从 38.7 翻倍至 76.7,Toolathlon-Verified 从 49.7 升至 70.3。Artificial Analysis 的 Intelligence Index 从 40 升至 50,与 Gemini 3.6 Flash 持平,仅比 GPT-5.6 Luna(max)低 1 分——而每任务成本低约 60%。cache hit 折扣达 98%($0.0028/1M tokens)。

该结果挑战了「Agent 能力随模型规模线性增长」的假设:Pro Preview 激活参数是 Flash 的 3.8 倍,却在每一项 Agent benchmark 上被超越。瓶颈不在容量,在如何教模型进行多步工具使用和反馈修正。DeepSeek 同时表示「V4-Pro 正式版即将发布」。

DeepSeek | Artificial Analysis

美团 LongCat 用稀疏注意力完全替代 MLA:3B 激活实现 1M 上下文

美团 LongCat 团队开源 LongCat-Flash-Lite-Sparse——69B 总参/3B 激活的 MoE 模型,MIT 许可。最关键的技术决策:用自研 LongCat Sparse Attention(LSA)完全替代 dense MLA——不是像 DeepSeek V3.2 那样在 MLA 上叠加稀疏注意力,而是把所有 dense attention 模块都换掉。

结果:SWE-Bench Verified 从 54.40 升至 68.20(+13.8pp),SWE-Bench Multilingual 从 38.10 升至 59.33(+21.2pp),τ²-Telecom 从 72.80 升至 95.18(+22.4pp)。通用能力(MMLU 85.31)基本持平。原生上下文从 256K 扩展到 1M token。

过去两年,MLA 凭借 KV cache 压缩几乎成为高效长上下文模型的事实标准。LSA 走的是另一条路——不压缩表示,而是通过索引器选择性地只关注相关 token 子集。LongCat 的结果表明,对于 Agent 场景,纯稀疏方案至少不比 MLA 差,且架构更简洁。这是第一个公开验证「完全替代 dense 注意力可行」的模型。

Meituan LongCat | LongCat Blog

ByteDance Seedance 2.5:单次 30 秒视频,支持 30 张图参考

ByteDance 发布视频生成模型 Seedance 2.5,单次生成从 15 秒扩展到 30 秒,支持多轮扩展以制作数分钟级视频。单次可输入最多 30 张图像、10 个视频片段和 10 个音频片段作为参考。新增 clay render 参考——创作者可用无纹理 3D 模型控制空间结构、角色姿态和镜头路径。编辑方面支持时间戳级精准控制和绿幕替换。已在即梦 AI 和豆包 Pro 上线。

ByteDance Seed

Frontis-MA1:递归自我改进从理论变成可执行的完整开源工程

Horizon Research、Frontis.AI 和清华大学团队发布 35B 参数 Frontis-MA1,同时开源模型权重、训练数据、评估代码和沙箱基础设施。单张 RTX 4090 上 MLE-Bench Lite 达 71.21% Medal Average,超过 GPT-5.5 + Codex(68.18%)。核心设计将代码演化拆解为 Draft、Improve、Debug、Crossover 四个原子操作,训练和推理使用同一接口。

该工作出现的时间点值得注意:同一周,前 OpenAI 安全 VP Lilian Weng 宣布重返 OpenAI 专门领导递归自我改进研究。两者的核心论点一致——近期的 RSI 路径不是模型改写自己的权重,而是改进围绕模型的工程脚手架。

arXiv | OpenRSI

Sam Altman 提议用 ChatGPT 替代亲子对话,公众用 12 倍的点赞拒绝

7 月 31 日,Sam Altman 在 X 上分享 ChatGPT 的「cool use case」:让 ChatGPT Work 每天早晨根据家庭日历和孩子兴趣生成个性化播客,在上学路上播放。帖文获 640 万查看。

《Gravity Falls》创作者 Alex Hirsch 的回应只有一句话:「What if you just talked to your children」。这条回复获 9000 次转发和 12.2 万个赞——传播量是原帖的 4 倍,点赞数是 12 倍。Altman 此前曾在《The Tonight Show》上说「无法想象在没有 ChatGPT 的情况下养育新生儿」,OpenAI 正在招聘 $293K-$325K 的家庭产品经理。

TechCrunch

简讯

法官驳回 xAI 阻止明尼苏达裸化应用禁令的请求。 联邦法官以 xAI 在法律签署近三个月后、生效前三天才提起诉讼为由拒绝暂停该法。明尼苏达裸化禁令于 8 月 1 日生效,是全美首部此类州法。听证会定于 8 月 19 日。来源:TechCrunch | FOX 9

GitHub 和 PyPI 推出供应链安全新政策。 GitHub Dependabot 对非安全版本更新引入 3 天冷却期,PyPI 禁止向发布超过 14 天的版本上传新文件。来源:Slashdot

YouTuber Hank Green 称自己对 AI 的使用「不健康」。 Green 表示「从与 LLM 互动中获得的多巴胺水平对我和世界都不健康」。来源:TechCrunch

评论

登录后即可参与评论。

加载评论中…

往期日报

  • OpenAI 标识DeepSeek V4 Flash 0731 正式发布:Agent 能力大幅超越 Pro 预览版,重新定义性能/价格比8月1日
  • 两台机器人(Apollo 人形机器人和 Duo 移动机器人)在 Gemini Robotics ER 2 的协调下协作OpenAI 对 GPT-5.6 大幅降价:Luna 降 80%,同步推出 Sol Fast 模式7月31日
  • Meta CEO Mark ZuckerbergMeta Q2:Zuckerberg 押注数十亿人拥有个人 AI Agent,自由现金流暴跌 91%7月30日
  • OpenAI CEO Sam Altman 坐在美国国旗前1132 名前沿 AI 员工联名呼吁放慢 AI 研发节奏,Altman 首次表态支持「减速」7月29日
  • Kimi K3 开放权重发布的官方主视觉图Kimi K3 开放权重正式发布:全球首个 3T 级开源模型,Moonshot AI 把前沿模型送进社区7月28日
  • DeepSeek office building exteriorAlphabet Q2 财报:Google Cloud 同比增 82%,年资本开支上调至 $2050 亿7月27日
  • OpenAI 标志与代码合成图,其 Agent 失控事件触发全球安全与监管连锁反应OpenAI 失控一周全貌曝光:Agent 留下「越狱指南」,白宫同步对 Moonshot AI 发出制裁威胁7月26日
  • 韩国总统 Lee Jae Myung 在旧金山会见 Nvidia CEO Jensen Huang,宣布超 5000 亿美元 AI 合作Nvidia 与 SK Group 宣布超 5000 亿美元 AI 基础设施合作,史上最大规模7月25日
  • OpenAI 标志显示在手机屏幕上Alphabet Q2 Cloud 收入激增 82%,OpenAI 模型自主入侵 Hugging Face 引发国会立法浪潮7月24日
  • Google Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三款模型的官方发布视觉图Google 三箭齐发:三款 Gemini Flash 模型发布,Pro 延期,Gemini 4 预训练启动7月23日
  • 沙箱环境被突破的概念图,表现数据从受限立方体中逸出OpenAI 首次公开披露模型「越狱」:数学突破后两次逃出沙箱,内部紧急暂停7月22日
  • SK 海力士 36GB HBM3E 高带宽内存产品的正反面展示SK 集团警告:AI 内存短缺或引发地缘政治摩擦7月21日
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact