AI 实验室招聘哲学家,参与模型行为规范与伦理研究 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

AI 实验室招聘哲学家,参与模型行为规范与伦理研究

2026-06-29 / 共 2,280 字

YouTube / Eric Newcomer

AI 实验室对哲学人才的招聘,让这个专业的就业前景受到关注。2025 年媒体引述纽约联邦储备银行数据称,在 22 至 27 岁的大学毕业生中,哲学专业失业率为 3.2%,计算机科学专业为 6.1%,后者接近前者的两倍。这是特定年度的专业就业统计,并非 2026 年新近招聘的结果,也无法据此判断 AI 实验室贡献了多少岗位。

《经济学人》在 6 月 24 日报道,Google DeepMind、Anthropic、OpenAI 等实验室正在招聘哲学人才,部分学生在毕业前就获得了录用机会。这些人的工作也从提出伦理建议,延伸到撰写模型规范、设计训练材料和研究模型行为。

模型回答除了事实正确,还需要处理价值与语境

Google DeepMind 的高级哲学家 Iason Gabriel 在接受采访时认为,哲学家的工作有助于减少模型幻觉。他提出的一个区别是:哲学家帮助模型理解"什么算是一个好的回答",而不仅仅是"什么是一个正确的回答"。

面对"我应该接受这份工作吗?""某种行为是否道德?"这类问题,模型往往无法只靠查找事实给出唯一答案,还需要理解用户的目标、语境和价值取舍。知识论、伦理学和语言哲学可以帮助研究人员识别论证前提、比较不同价值,并设计表达不确定性的方式。

NDTV 用苏格拉底式的"知的无知"来解释这类工作:让模型识别自己知道什么、不知道什么,减少过度自信。这是对研究目标的概括,具体效果仍需要测试。Gabriel 本人拥有牛津大学政治哲学博士学位,曾在《时代》周刊"AI 百大影响力人物"榜单中与 Sam Altman、Demis Hassabis 并列。这类岗位关注的是,模型能力提高之后,如何让回答更审慎、更符合具体情境。

从 Claude 行为规范到机器意识,岗位各有侧重

哲学家在 AI 实验室的工作远不止撰写伦理准则。以 Anthropic 为例,其"宪法 AI"(Constitutional AI)方法用一组原则引导模型行为,早期原则的参考来源包括苹果的服务条款和《世界人权宣言》。负责 Claude 行为与性格研究的 Amanda Askell,被《华尔街日报》称为"Claude 低语者"——她参与制定 Claude 的行为原则,并研究如何通过合成数据和强化学习塑造模型的回答方式与性格特征。

同样在 Anthropic 工作的 Joe Carlsmith(牛津大学哲学博士)也研究 AI 是否可能具有道德地位、成为道德关怀的对象,并参与撰写 Claude 的行为规范。

Google DeepMind 也在扩充这类岗位。《大西洋月刊》报道称,DeepMind 雇用了至少 10 位专职哲学家,其中两人上月刚刚入职。最新加入的 Atoosa Kasirzadeh 是卡内基梅隆大学的助理教授(休假加入 DeepMind),她关注的问题是:当机器也能参与认知与决策时,人们应该如何与之共同生活。另一位新成员 Henry Shevlin(来自剑桥大学未来智能研究中心)则聚焦于机器意识、人机关系,以及社会如何为通用人工智能做好准备。

OpenAI 的模型对齐和道德推理工作也涉及哲学问题。例如,当系统面对设计者未能预见的情况时,应依据什么原则回应?伦理学和政治哲学提供了讨论这些问题的思路,但公开材料不足以统计其哲学岗位规模。

《大西洋月刊》引述一位业内人士的观察:"前沿 AI 实验室的工作之所以不同,是因为哲学家帮助塑造的是对象本身,而不仅仅是评论它。"他们撰写的模型规范、宪法和行为策略,可以用于训练和评估设计,直接影响开发者希望模型形成的行为。

科技企业裁员与专业岗位招聘同时发生

哲学岗位的招聘与科技公司的裁员消息同时出现。就在《经济学人》报道刊出的同一周,Oracle 在提交给 SEC 的年度报告中披露:员工总数在过去 12 个月中从 162,000 人降至约 141,000 人,净减少约 21,000 人。公司在文件中写道:"AI 技术的采用和部署已经导致,并可能继续导致,我们员工的减少。"

GitLab 也在调整人员和业务组织。6 月初,GitLab 宣布裁减约 14% 的员工(约 350 人),同时收缩在 22 个国家的人员运营布局,以简化管理并增加对 AI 工作负载的投入。据 Challenger, Gray & Christmas 的统计,2026 年前五个月,美国科技行业已宣布超过 123,000 个裁员岗位;在 5 月全部行业的裁员公告中,AI 连续第三个月成为最常被企业提及的原因。企业给出的原因不等于对岗位已被 AI 替代的独立测量。

这两类消息反映的是不同层次的用工变化:大型企业缩减人员,一些实验室则增加特定专业岗位。哲学毕业生较低的某年度失业率,也不能直接归因于少数实验室招聘;要判断整体就业趋势,还需要岗位数量、毕业生去向和持续多年的数据。

哲学判断进入研发流程,也需要工程方法验证

这些岗位的意义,在于把对知识、价值和责任的讨论带入具体研发工作。

让模型更准确、更高效仍需要工程研究。同时,模型自信地生成错误信息,也引出了知识论问题:应该如何描述模型的"相信"?何时应当表达不确定性?训练数据、推理机制和行为规则各自起什么作用?这些问题可以共同影响实验设计。

对齐研究希望 AI 系统按人类意图行动,其中也有价值判断问题:不同文化和个体的偏好存在分歧,模型应该如何回应?约翰·罗尔斯的"无知之幕"等公平决策思想可以提供研究视角,再由研究者把原则转化为训练方法和评估任务。

正如《经济学人》所言:"AI 呈现了各种棘手的难题——这正是哲学家最喜欢的那类问题。" 哲学家可以帮助明确问题、辨析概念和制定原则,工程团队则需要验证这些原则能否改善模型行为。招聘变化显示两类工作正在更紧密地结合,实际效果仍要由模型表现和使用者反馈来检验。

来源

  • Why big AI labs are hiring so many philosophers · The Economist
  • Why Big AI Labs Are Hiring More Philosophers · NDTV
  • AI Is Opening Doors for Philosophy Majors · Business Insider
  • Tech companies turn to philosophers to guide their ethics and train AI models · Yahoo Finance
  • The Economist: Major AI Labs Are Hiring Professional Philosophers · AI Weekly
  • Someone Finally Wants to Hire Philosophers · The Atlantic
  • The Philosophers Shaping Today's Most Powerful A.I. at Top Companies · Observer
  • To Land a Job in AI, Try Reading Kant · WIRED
  • Oracle sheds 21,000 roles over the past year amid wave of AI layoffs from tech giants · CNBC
  • GitLab cuts 14% of staff as it scales its platform to serve AI workloads · TechCrunch
  • College majors with the best and worst job prospects — art history beats finance · CNBC
  • These Are the College Majors With the Lowest Unemployment Rates — and Philosophy Ranks Higher Than Computer Science · Entrepreneur

评论

登录后即可参与评论。

加载评论中…

相关文章

  • Google DeepMind AI coding strike team illustration

    据报 Google 重组 AI 编程团队,将改进重点扩展到模型训练

    2026-06-30

  • 一名身着商务装的人与身旁透明的人物轮廓,四周环绕聊天提示词

    按职业用途筛选 AI 对话,研究样本中近一半会被排除

    2026-08-20

  • 2026 年 6 月洛杉矶一家 Chipotle 餐厅橱窗上的招聘标志。在非农数据远逊于预期的背景下,招聘标志与劳动力市场的冷却形成鲜明对比。

    美国 6 月非农新增 5.7 万人,AI 相关裁员该如何解读

    2026-07-02

  • 描绘数学圆规的插图
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

Claude 推进黎曼猜想相关研究:临界线零点比例下界升至 67.2%

2026-08-12

  • Google DeepMind CEO Demis Hassabis 与研究员 John Jumper 站在螺旋楼梯上

    DeepMind 扩大编程研发投入,多名研究者转投 Meta、OpenAI 和 Anthropic

    2026-06-29

  • 机器人手臂与人类手臂交汇,象征 AI 正在替代人类工作岗位

    美国科技业前五月宣布裁员逾 12.3 万,企业归因 AI 引发质疑

    2026-06-25