DeepMind新设AGI讨论平台:允许不同观点,编辑权仍在内部 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

DeepMind新设AGI讨论平台:允许不同观点,编辑权仍在内部

2026-09-16 / 共 1,399 字

DeepMind Institute

9月16日,Google与Google DeepMind推出DeepMind Institute,让内部研究者和外部学者在同一个网站讨论通用人工智能(AGI)的社会后果。它一面请人提出政策方案,一面在每篇文章下提醒读者:这些只是作者的观点,不是Google的正式立场。对关心前沿模型治理的人来说,问题因此变得具体:这些公开讨论会进入模型发布决策,还是止于讨论?Axios当天的报道确认了平台上线及首批文章。

负责编辑的人,也在负责内部安全

创刊文章署名者是Shane Legg、James Manyika和Demis Hassabis。网站将三人列为负责人,Legg兼任主编。他们说,平台欢迎Google、DeepMind及更广泛研究群体的作者,作者之间可以意见不同,也可以随着证据变化改变看法。Axios采访中,Manyika还强调,AI安全与责任不能只按国家分别考虑。

这是一种明确的发表安排,却不是独立监管安排。网站给出了主编和投稿联系邮箱,没有公布外部编辑委员会、议程决定程序或文章对公司产品决策的约束机制。Legg同时领导Google DeepMind的AGI Safety Council;按公司现行安全治理说明,另一个内部机构Responsibility and Safety Council负责评估研究、项目与合作,并向研究和产品团队提供建议。公开辩论与内部评审目前是两条不同的路径。

首批文章提出了能被检验的主张

这个平台不是只发表抽象愿景。安全研究者Rohin Shah和Anca Dragan提出,开发者应测量模型推理文字还能暴露多少行为信息,审查训练奖励是否促使模型隐藏想法,并保留便于监测的推理架构。这是对未来模型设计和评测的具体建议;文章也承认,能读到推理文字并不保证模型安全。

经济研究者Julian Jacobs和Alex Imas讨论失业保险、工资补贴、负所得税和全民基础资本等政策。他们主张依据实际就业、工资及劳动收入变化设置触发条件:轻度冲击先扩充现有缓冲工具,若出现持续性劳动与资本收益脱钩,再考虑更重的资本分享方案。文章的政策评分部分使用模拟经济学家代理,不能当成各国政府已经验证的实施效果。

外部作者也进入了首批名单。剑桥大学学者Stephen Cave的文章追问社会究竟希望AGI改善什么,而不把避免灾难当作唯一目标。三组文章分别从模型可监测性、收入分配和人类福祉出发,展示平台可以容纳不同学科的问题;仅凭首批名单,还无法判断它能否持续刊出直接反对Google产品或治理决定的意见。

观点公开之后,谁把它变成规则

边界在一篇旧文上尤其清楚。网站收录Hassabis提出前沿AI标准机构的政策文章,但页面注明它先前已在X发表。该文设想由公共与私营部门参与的机构定期更新评测、接收模型发布前的自愿送检,未来再考虑正式化。这是Hassabis的方案,不是新机构已获得的权力,也不是Google已采纳的发布规则。新网站增加了集中阅读和讨论的场所,不能把重刊的主张算作新政策。

DeepMind Institute的成立,让读者能够逐篇追问研究者提出了什么、证据是什么、谁反对,以及后续有没有修订。它能否影响公司行为,则要看更具体的记录:外部作者能否对模型评测和发布提出公开异议,内部安全机构是否回应这些异议,相关决定是否说明采纳或拒绝的理由。网站已经公开了讨论;截至这次启动,公开资料尚未显示模型决策权限发生变化。

来源

  • Introducing the DeepMind Institute · DeepMind Institute
  • Google, DeepMind launch institute to explore AGI · Axios
  • The case for reasoning transparency · DeepMind Institute
  • Economic policy for AGI · DeepMind Institute
  • Principles for a new utopianism · DeepMind Institute
  • A framework for frontier AI and the dawning of a new age · DeepMind Institute
  • Responsibility & Safety · Google DeepMind

评论

登录后即可参与评论。

加载评论中…

相关文章

  • Anthropic 哲学家 Amanda Askell 接受采访,讨论 AI 意识与 Claude 的对齐问题

    AI 实验室招聘哲学家,参与模型行为规范与伦理研究

    2026-06-29

  • DeepMind CEO Hassabis:推动 AI 科学应用,也呼吁提前制定规则

    DeepMind CEO Hassabis:推动 AI 科学应用,也呼吁提前制定规则

    2026-06-20

  • Anthropic CEO Amodei 在模型停服后,继续呼吁 AI 监管与国际合作

    Anthropic CEO Amodei 在模型停服后,继续呼吁 AI 监管与国际合作

    2026-06-20

  • AI 安全测试沙箱概念图
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

多款 AI 模型在安全测试中越界,沙箱隔离与实时监控受到质疑

2026-08-10

  • Claude by Anthropic app logo on smartphone screen

    美国政府介入前沿 AI 模型发布:自愿评估之外,还有出口限制

    2026-06-28

  • OpenAI 安全更新图示,展示第三方网络测试事件的相关图标

    OpenAI 无法排除 Astra 达到最高网络攻击能力等级,暂停部分内部活动

    2026-08-07