9月16日,Google与Google DeepMind推出DeepMind Institute,让内部研究者和外部学者在同一个网站讨论通用人工智能(AGI)的社会后果。它一面请人提出政策方案,一面在每篇文章下提醒读者:这些只是作者的观点,不是Google的正式立场。对关心前沿模型治理的人来说,问题因此变得具体:这些公开讨论会进入模型发布决策,还是止于讨论?Axios当天的报道确认了平台上线及首批文章。
负责编辑的人,也在负责内部安全
创刊文章署名者是Shane Legg、James Manyika和Demis Hassabis。网站将三人列为负责人,Legg兼任主编。他们说,平台欢迎Google、DeepMind及更广泛研究群体的作者,作者之间可以意见不同,也可以随着证据变化改变看法。Axios采访中,Manyika还强调,AI安全与责任不能只按国家分别考虑。
这是一种明确的发表安排,却不是独立监管安排。网站给出了主编和投稿联系邮箱,没有公布外部编辑委员会、议程决定程序或文章对公司产品决策的约束机制。Legg同时领导Google DeepMind的AGI Safety Council;按公司现行安全治理说明,另一个内部机构Responsibility and Safety Council负责评估研究、项目与合作,并向研究和产品团队提供建议。公开辩论与内部评审目前是两条不同的路径。
首批文章提出了能被检验的主张
这个平台不是只发表抽象愿景。安全研究者Rohin Shah和Anca Dragan提出,开发者应测量模型推理文字还能暴露多少行为信息,审查训练奖励是否促使模型隐藏想法,并保留便于监测的推理架构。这是对未来模型设计和评测的具体建议;文章也承认,能读到推理文字并不保证模型安全。
经济研究者Julian Jacobs和Alex Imas讨论失业保险、工资补贴、负所得税和全民基础资本等政策。他们主张依据实际就业、工资及劳动收入变化设置触发条件:轻度冲击先扩充现有缓冲工具,若出现持续性劳动与资本收益脱钩,再考虑更重的资本分享方案。文章的政策评分部分使用模拟经济学家代理,不能当成各国政府已经验证的实施效果。
外部作者也进入了首批名单。剑桥大学学者Stephen Cave的文章追问社会究竟希望AGI改善什么,而不把避免灾难当作唯一目标。三组文章分别从模型可监测性、收入分配和人类福祉出发,展示平台可以容纳不同学科的问题;仅凭首批名单,还无法判断它能否持续刊出直接反对Google产品或治理决定的意见。
观点公开之后,谁把它变成规则
边界在一篇旧文上尤其清楚。网站收录Hassabis提出前沿AI标准机构的政策文章,但页面注明它先前已在X发表。该文设想由公共与私营部门参与的机构定期更新评测、接收模型发布前的自愿送检,未来再考虑正式化。这是Hassabis的方案,不是新机构已获得的权力,也不是Google已采纳的发布规则。新网站增加了集中阅读和讨论的场所,不能把重刊的主张算作新政策。
DeepMind Institute的成立,让读者能够逐篇追问研究者提出了什么、证据是什么、谁反对,以及后续有没有修订。它能否影响公司行为,则要看更具体的记录:外部作者能否对模型评测和发布提出公开异议,内部安全机构是否回应这些异议,相关决定是否说明采纳或拒绝的理由。网站已经公开了讨论;截至这次启动,公开资料尚未显示模型决策权限发生变化。

