加拿大与德国拟资助 LawZero:Bengio 的安全 AI 进入政府资助阶段 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

加拿大与德国拟资助 LawZero:Bengio 的安全 AI 进入政府资助阶段

2026-09-16 / 共 1,272 字

德国联邦数字化与国家现代化部/Woithe

2026 年 9 月 16 日,加拿大和德国部长在蒙特利尔同台宣布,计划分别向 Yoshua Bengio 创办的非营利机构 LawZero 投入 1.5 亿加元和 1 亿欧元。一个以避免商业和政府压力为创设理由的安全 AI 实验室,获得了两国政府的出资承诺。钱将用于研究人员、加拿大的专用算力和德国的研发据点;两国公布的是投资计划,当天没有发布经独立验证的安全模型。

两笔钱投向不同地点,也有不同条件

加拿大政府公告写明,该国拟通过战略响应基金支持 LawZero 的研究、工程人才与计算资源。LawZero 计划与加拿大企业 Hypertec、5C 建立专用算力设施。公告还预计项目将在加拿大创造 360 个全职岗位;这是项目目标,不能当作已经招聘的人数。

德国拟投入的 1 亿欧元对应 LawZero 拟设德国办公室的研发工作。LawZero 公告把办公室地点写为柏林;加拿大政府同时说明,德方资金须履行向欧盟委员会通知的程序。两份公告都未列出拨款节奏、设施规格和投用日期。LawZero 用“最高 3 亿加元”概括联合承诺;拆回原币种,才能看清两笔资金各自的用途和状态。法新社在会议现场的报道也核对了两国出资与德国据点的安排。

这不是临时拼起的合作。今年 2 月的两国联合声明已经把 LawZero 列为潜在合作方向,并提出共同建设安全算力、开展 AI 研究。9 月的增量是明确了资金规模、加拿大的算力伙伴以及德国办公室的研发用途。

Bengio 要让模型先判断,再把行动交给可审计程序

LawZero 要研究的 Scientist AI,并非已经上市的产品。Bengio 团队设想让模型解释和预测世界:面对一个说法,先估计它是否可信;面对另一个 AI 拟采取的行动,先判断可能后果,再由外部程序决定是否放行。模型本身不以改变现实结果或讨好评价者作为训练目标,需要使用工具的部分则放在可审计的外部程序中。这是团队在7 月研究论文中提出的设计路线。

团队希望先做评估和监督现有 AI 系统的工具,再朝安全优先的前沿模型推进。7 月论文给出的主要是基于特定假设的形式化安全论证,讨论如何降低预测模型形成隐含目标的风险。LawZero 自己对论文的说明也把人为误用、单次判断错误及外部 Agent 整体的安全性排除在这一论证之外。论文提出后续实验,但资金公告没有发布新模型、独立评测结果或部署数据。

公共资金放大研究,也把独立治理推到台前

LawZero 2025 年成立公告把非营利架构解释为隔离商业与政府压力的办法,当时的资助主要来自慈善捐赠。如今两国政府计划承担更大规模的研究和算力投入,还各自期待本土研发能力。这种安排会把曾经抽象的“独立性”变成可核查的治理问题:资金协议如何约定研究方向、成果公开与机构决策权?截至 9 月 16 日的公告,相关条款尚未披露,不能据此断言政府将干预研究。

对安全研究者与政策制定者而言,接下来有三组可观察的事实:德方通知程序和实际拨款是否完成;加拿大专用算力与柏林研发团队是否建成;Scientist AI 的监督工具能否公开接受独立测试。两国已经为一条不同于自主行动 Agent 的路线给出资金承诺,研究成果与制度边界则要靠后续公开证据回答。

来源

  • Canada and Germany invest in LawZero to build a new approach to safe, sovereign AI · 加拿大创新、科学与经济发展部
  • LawZero receives a commitment of up to $300M in joint funding from Canada and Germany · LawZero
  • Deutschland und Kanada wollen KI im Dienste des Menschen fördern · 法新社
  • Canada and Germany sign AI joint declaration and launch Sovereign Technology Alliance · 加拿大创新、科学与经济发展部
  • Yoshua Bengio Launches LawZero: A New Nonprofit Advancing Safe-by-Design AI · LawZero
  • Safety from Honesty in a Disinterested AI Predictor · LawZero
  • An AI that Predicts but has no Hidden Agenda · LawZero
  • Digitalminister auf Münchener Sicherheitskonferenz MSC · 德国联邦数字化与国家现代化部

评论

登录后即可参与评论。

加载评论中…

相关文章

  • 加拿大总理 Mark Carney 在蒙特利尔宣布向 Cohere 出资

    加拿大拟入股 Cohere 最多 16 亿加元:总部留本国,算力要先落地

    2026-10-29

  • Alberta 省政府网络安全团队使用 Claude Code 审查遗留系统并识别软件漏洞的概念图示

    加拿大阿尔伯塔省用 Claude 审查政府代码,20 小时扫描 4.66 亿行

    2026-07-06

  • Yann LeCun,图灵奖得主、AMI Labs 创始人

    LeCun 创办的 AMI Labs 融资 10.3 亿美元,推进能预测行动后果的世界模型

    2026-06-26

  • 德国总理默茨在 2026 年柏林 ILA 航展上与 Helsing 联合创始人 Gundbert Scherf 交谈,背景为 CA-1 Europa 无人战斗机的模型
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

德国防务 AI 公司 Helsing 融资 18 亿美元,计划在美国建厂

2026-07-16

  • Morgan & Morgan 的 MX2 投资示意图,标注未来十年至少投入 10 亿美元

    投入 3 亿美元后,Morgan & Morgan 要把律所变成软件商

    2026-09-14

  • 2026 年 9 月 16 日蒙特利尔 ALL IN 大会上,Evan Solomon、Aidan Gomez、Karsten Wildberger 与 Samuel Weinbach 同台

    Cohere 与 Aleph Alpha 正式签约:德国高管将进入运营与研究核心

    2026-09-16