AGI Daily
资讯日报词条论文人物新创
Noam Shazeer · 人物 | AGIDaily
人物目录

Noam Shazeer

Transformer 共同作者、OpenAI 人工智能研究者,研究注意力机制与稀疏混合专家模型。

个人介绍

Noam Shazeer 是 2017 年《Attention Is All You Need》的共同作者,论文署名机构为 Google Brain。作者说明将缩放点积注意力、多头注意力和无参数的位置表示归于他的贡献,并说明他深入参与了研究的多个环节。论文声明作者同等贡献、署名顺序随机。

同年,他共同发表了稀疏门控混合专家层论文,研究如何让每个样本只调用部分专家网络,从而增加模型容量而不按同样比例增加计算。Google 的 2025 年 Gemini 2.5 技术报告也将他列入贡献者名单。

他在 OpenAI 从事人工智能研究,此前曾任 Google 工程副总裁并共同领导 Gemini。

机构与经历

  • OpenAI

    人工智能研究者

  • Google · Gemini 团队

    Gemini 2.5 技术报告列名贡献者

    2025 年报告记录

  • Google Brain

2017 年论文署名机构

2017 年论文发表时

公开联系方式

  • 个人主页

研究成果

注意力机制与稀疏混合专家层分别处理信息交互和计算分配问题。Google 的 Gemini 2.5 报告在架构章节明确说明其模型采用稀疏 MoE Transformer,并引用上述两篇 2017 年论文,提供了这些研究与后续模型架构之间可追溯的联系。

  • Attention Is All You Need

    2017

    共同作者。作者说明将缩放点积注意力、多头注意力和无参数的位置表示列为他的贡献。

    被引 78,013 次 · OpenAlex · 统计于 2026-10-21

  • Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer

    2017

    共同作者。提出稀疏门控混合专家层,由可训练的门控网络为每个样本选择少数专家,并在语言建模和机器翻译中检验条件计算。

    暂未收录引用统计

参考来源

  1. Attention Is All You Need:作者列表与首发日期
  2. Attention Is All You Need:作者贡献说明与署名机构
  3. Outrageously Large Neural Networks:稀疏混合专家层原论文
  4. Gemini 2.5 技术报告:模型架构与贡献者名单(2025)
  5. Noam Shazeer 个人主页:当前机构、此前经历与研究介绍
  6. OpenAlex:Attention Is All You Need 引用统计
  7. 头像:Andreessen Horowitz(a16z),2023 年活动页面中的 Noam Shazeer 作者照

在文章或论文中关联此人

[Noam Shazeer](/people/noam-shazeer)