MAS:买了第三方 AI,责任仍在金融机构账上 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

MAS:买了第三方 AI,责任仍在金融机构账上

2026-10-07 / 共 2,486 字

The Straits Times

一家银行把客户服务、反欺诈调查或内部运营交给外部 AI,不会把责任一并外包出去。新加坡金融管理局(MAS)10 月 7 日发布的 AI 风险管理指南写得很直接:是否引入第三方 AI 是金融机构自己的决定,机构对它的使用保留主要问责;如果剩余风险无法压到自身风险偏好以内,就应考虑限制、暂停服务或更换供应商。

这份文件覆盖 MAS 监管的各类金融机构,也覆盖生成式 AI、单个 Agent 和多 Agent 系统。它没有禁止 Agent,也没有规定一套所有机构照抄的模型测试。MAS 选择把 AI 填进金融机构已有的董事会问责、风险偏好、供应商管理和三道防线中,再按每个用例的影响、复杂度与自主程度决定控制强度。对采购团队而言,变化不在于多了一份“供应商合规”勾选表,而在于机构必须自己证明:它知道 AI 被用在何处、能接触什么、出错会伤到谁,以及何时能够把它停下来。

最终稿放弃独立委员会,却没有放松问责

MAS 在 2025 年 11 月的咨询稿中提出,当一家机构的整体 AI 风险敞口达到重要程度时,应设立专门的跨职能委员会。行业反馈认为,这会与已有的技术风险、模型风险或区域治理结构重复。最终指南接受了这个意见:机构可以新建中央职能,也可以让现有风险管理部门接手增量风险;关键是形成全机构一致、可协调的 AI 风险视图,而不是委员会叫什么名字。

组织形式变灵活后,责任链反而更清楚。董事会或其授权委员会批准整体治理路径,把 AI 风险明确放进风险偏好框架,并保持足够理解以提出有效质疑;高级管理层负责落实控制、设置跨业务线角色、处理风险升级并向董事会报告。国际金融集团可以沿用全球框架,但新加坡本地高级管理层仍须看得见本地风险,并能向 MAS 说明自己如何履责。

这是一套监管指南,而非把 Agent 单独列入禁用清单的新法律。文件将自身定义为 MAS 的“监督预期”,条文主要使用“should”,并要求与现有法律、技术风险、外包和公平交易要求一并阅读。指南从 2027 年 10 月 7 日起生效:治理、AI 识别、清单和重要性评估先到期;全生命周期控制与人员、技术能力可分阶段做到 2028 年 10 月 7 日。高风险用例不应把控制推迟到过渡期末。

先画出 Agent 能碰什么,再决定管多严

MAS 要求金融机构先识别 AI,再建立可用的清单。清单可以扩展现有模型、数据、IT 资产或供应商登记簿,不必另建一套系统;但要能把一个用例与底层模型、数据、负责人、生命周期状态和外部依赖连起来。对于复杂的多 Agent 系统,指南给出的粒度示例进一步落到每个 Agent 的标识、它能访问的工具与系统、组成部件以及已设置的护栏。

这个要求解决的不是资产盘点本身,而是让风险评估有对象。每个用例至少要看三件事:失败会造成多大财务、运营、监管或客户影响;所用技术和数据有多复杂、机构能看见多少;业务多依赖 AI 决定或输出,AI 又获得了多少自主权。控制实施前的固有风险和实施后的剩余风险都要评估,后者必须在机构风险偏好以内才能部署。

比例原则给低风险场景留下了空间。用于润色邮件、摘要会议记录、生成内部图表,且有人复核输出的辅助工具,可以只采用基础治理:明确谁负责、哪些用途被允许、维护批准工具清单、培训员工并做合规检查。信用评分、保险承保、理财建议等后果更重的用例,则需要更严格的透明度、公平性、测试与人工监督;被评为高风险的用例在上线前还要接受与开发、部署团队独立的正式验证。

供应商不透明,不能只收一份自我声明

第三方范围是这次咨询争议最大的部分。MAS 不只把机构直接购买的模型算作第三方 AI,还包括 SaaS 中嵌入的 AI,以及供应商为交付服务而使用的 AI。亚洲证券业与金融市场协会(ASIFMA)在咨询回复中警告,这可能把大量原本并非 AI 产品的供应商关系纳入治理,而银行往往看不到供应商内部的模型、训练数据和更新节奏。

最终稿对执行范围做了比例化处理:机构应尽力识别所有 AI,但对嵌入式 AI,识别流程至少覆盖重要第三方服务商;如果无法完整发现所有使用,就要评估这段可见性缺口并设置缓解措施。AI 清单也只要求在“可能或可行”的范围内完整,更新频率和字段粒度由机构根据风险决定。

MAS 没有接受“看不见,所以责任转给厂商”的逻辑。金融机构要在合同中争取模型引入与更新通知、审计权、性能和数据保护承诺;还要在自己的数据和真实用途上测试第三方服务。供应商披露不足时,可以采用独立认证或外部评估,再用补偿性测试和更强人工监督填补信息缺口。供应商没有证据支撑的自我声明通常不够。

这会改变金融 AI 的采购问题。机构不能只问模型是否通过某项通用认证,还要问认证覆盖了哪些风险、合同能否提供更新可见性、模型在本机构数据上如何失效,以及出现异常时有没有替代流程。外部模型越不透明,机构越需要在自己的控制边界内增加测试、权限限制和人工介入;如果这些措施仍压不住风险,采购关系本身就不能继续。

Agent 规则尚未定稿,当前先管住行动链

MAS 已把 Agent 纳入本次指南,却刻意没有在现阶段指定统一测试技术或最低控制清单。咨询反馈列出的难题包括:如何同时评估单个 Agent 和多 Agent 链,怎样覆盖不断变化的行动空间,以及如何记录外部信息来源和推理路径。MAS 的当前答案是结果导向:机构自行选择适合场景的评估方式,但监控在相关情况下要延伸到工作流中的信息流、决策路径、实际动作和所用工具,以便追到一条 Agent 链中具体的失效点。

这也划出了指南的边界。它能要求机构说明 Agent 的身份、权限、依赖和护栏,却还没有回答不同自主等级应对应什么强制测试、何时必须逐步审批,或哪些跨 Agent 行为必须被实时拦截。MAS 表示将继续更新指南,并计划在 2027 年另行咨询金融业需要哪些 Agentic AI 专门指引。

因此,金融机构眼下最有价值的准备工作不是等一张统一测试表,而是把第三方 AI 从“采购的技术产品”还原成“机构选择并负责的业务流程”:先找到它,标出它能读取的数据和调用的工具,再把测试、人工干预、日志、供应商变更和退出方案接到同一条责任链上。2027 年下一轮咨询真正需要补上的,正是这条责任链走向自主执行之后,哪些控制必须从原则变成可验证的最低要求。

来源

  • MAS Sets Out Supervisory Expectations on Responsible AI Adoption by Financial Institutions · Monetary Authority of Singapore
  • Guidelines on Artificial Intelligence Risk Management for Financial Institutions · Monetary Authority of Singapore
  • Response to Feedback Received on Guidelines on Artificial Intelligence Risk Management · Monetary Authority of Singapore
  • Consultation Paper on Proposed Guidelines on Artificial Intelligence Risk Management for Financial Institutions · Monetary Authority of Singapore
  • ASIFMA Response to MAS Consultation Paper on AI Risk Management Guidelines · Asia Securities Industry & Financial Markets Association
  • Written reply to Parliamentary Question on agentic AI in financial services · Monetary Authority of Singapore

评论

登录后即可参与评论。

加载评论中…

相关文章

  • Google DeepMind Visualising AI 项目中艺术家创作的 AI 与神经科学融合插图,象征智能系统进入生产环境的复杂性与不确定性

    企业 Agent 回报调查结果乐观,安全审批仍有缺口

    2026-06-29

  • 英国医疗 AI 监管委员会发布材料中的医护人员与患者查看平板电脑画面

    英国接受医疗 AI 监管 44 条建议,42 条仍等明春交付细则

    2026-10-06

  • Manus AI Agent 应用界面与 Meta 标志在手机屏幕上的合成图

    Meta 收购被中国监管叫停后,Manus 将恢复独立运营

    2026-08-12

AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact
论文图 1:SWE-bench Verified 上各模型的解题率随时间上升,同时补丁臃肿比保持高位且与解题能力几乎不相关

AI 代码通过测试后仍可能难审查,13 位研究者呼吁重视人机协作

2026-08-17

  • 英国 ICO 关于基础模型监督与 Agentic AI 证据征集的专题插图

    训练数据整改只是起点,英国 ICO 把监管追到 Agent 每一步

    2026-10-08

  • TechPolicy Press 播客封面:解读《伟大的美国人工智能法案》,背景为美国国会大厦穹顶与 AI 电路板视觉元素

    美国两党议员提出 AI 监管草案,拟限制各州监管模型开发三年

    2026-06-04