AMD 于 8 月 6 日宣布达成协议收购多伦多 AI 芯片初创公司 Taalas。交易金额未披露,预计今年第四季度完成。这是 AMD 在过去两年内的第六笔 AI 相关收购,Taalas 专注另一条技术路线:这家公司不造 GPU,也不做通用 AI 加速器。它把 AI 模型的权重直接「蚀刻」进硅片。
在传统 GPU 上运行推理,需要把模型权重从 HBM 搬运到计算单元,数据来回穿梭于内存层级,大部分功耗和延迟都消耗在数据传输而非计算本身——这就是所谓的内存墙。Taalas 的方案是把模型及权重固化到定制电路中,将存储与计算结合,以减少权重搬运。第一代 HC1 使用 3 比特和 6 比特混合量化,第二代方案则采用标准 4 比特浮点格式。
Taalas CEO Ljubisa Bajic 在官网上写道:「从收到一个此前未见的模型算起,我们可以在两个月内将其做成定制硅。」这次出售也将这位 AMD 前员工带回了他效力多年的老东家。Bajic 在创办 Taalas 前曾共同创立 Tenstorrent,目前由芯片传奇人物 Jim Keller 执掌。
首代芯片在 Llama 8B 上测速,较大模型成本仍是模拟结果
Taalas 的第一代测试芯片 HC1 基于台积电 6nm 工艺,上面蚀刻了 Meta Llama 3.1 8B 模型。按公司公布的测试,每用户约 16,960 tok/s,是 Nvidia GPU 推理速度的约 48 倍,比 Cerebras 晶圆级引擎快 8 到 10 倍。Forbes 分析师 Karl Freund 的实际测试中,一份关于二战的详细月度时间线请求在 0.138 秒内完成,生成速度为每秒 14,357 个 token——快到「来不及看它滚动」。
成本差距同样显著。根据 Taalas 2 月公布的数据,在 HC1 上运行 Llama 3.1 8B 的推理成本为每百万 token 0.75 美分,而 GPU 方案的成本从 3.79 美分(吞吐量优化)到 28.6 美分(延迟优化)不等。DeepSeek R1 级推理模型的模拟成本为每百万 token 7.6 美分,对比 GPU 的 20-49 美分。Taalas 声称蚀刻一个模型的权重到硅片中,其成本约为训练该前沿模型的百分之一。
公司公布的机架功耗对比也显示了差异。HC1 整机架功耗仅 12-15 千瓦,而 GPU 推理机架通常在 120-600 千瓦之间。HC1 还可以使用空气冷却,不需要昂贵的数据中心液冷改造。
Taalas 在 2 月的路线图中,计划于当年冬季部署基于第二代芯片 HC2 的前沿模型。HC2 采用标准 4 比特浮点格式来解决精度损失问题,单片支持 20B 参数,多片可通过 pipeline 并行支持更大模型——50 个加速器就能服务一个万亿参数模型。相比之下,Groq LPU 机架系统需要数千个 LPU 才能达到同等规模。
模型锁定的代价
Taalas 方案的弱点与优点一样明显:一旦芯片制造完成,你能运行的模型就被锁定了。任何超出 LoRA 适配器范围的更新都需要重新流片。如果所服务的模型频繁更新,这会增加成本并影响交付时间。
但 Taalas 的架构设计并非全部推倒重来。Bajic 的技术路线是:基础逻辑层保持不变,只需要重做最上层的两道金属互联(metal layer),Freund 推测,TSMC 可以提前储存未完成晶圆,等待最后两层金属互联的加工。Taalas 声称这一过程仅需两个月,而整个芯片的生命周期中可容纳三次升级,这些费用已计入 Taalas 公布的成本对比中。
CNBC 报道引用了 AMD CEO Lisa Su 7 月产品发布会上的一句表态:「我不认为有一种万能的芯片解决方案。」她同时重申 GPU 仍将占据 AI 芯片市场的最大份额,因为它们可以灵活适应新模型。这也解释了两类芯片可能承担的不同任务:GPU 适应不断变化的模型,Taalas 则更适合模型相对稳定、推理量足够大的场景。
哪些场景符合条件?前沿实验室(OpenAI、Anthropic、Meta 都是 AMD Instinct 的大客户)的旗舰模型、代码助手的后端推理、大规模 Agent 系统的 token 生成——这些场景可能产生大量推理请求。只有当模型选择足够稳定、芯片利用率足够高时,专用芯片的节省才可能抵消更新灵活性的损失。
AMD 计划把 Taalas 与 Instinct GPU 组合使用
AMD 希望把 Taalas 技术纳入现有 AI 产品路线。7 月下旬,AMD 宣布与 Cerebras 合作,将后者的晶圆级引擎(WSE)集成到 Helios 机架级系统中,目标是 prefill 加速。结合 Taalas 的特性,一种可能的分工是让通用 GPU 和其他加速器处理 prefill 等阶段,让 Taalas 承担稳定模型的 decode。不过,具体分工与成本表现仍需 AMD 的集成方案和测试结果确认。
AMD 的 Helios 机架系统刚刚开始向 Meta 和 Microsoft 发货。AMD AI 部门高级副总裁 Vamsi Boppana 在官方声明中称:「AMD 正在构建一个全栈 AI 平台,为客户提供灵活部署适合每种 AI 工作负载的正确计算方案。」Taalas 和 Cerebras 的技术为 AMD 组合不同加速器提供了更多选择,最终产品如何集成仍待说明。
AMD 过去两年已收购多家相关公司:2024 年以 $6.65 亿收购 Silo AI(模型开发),以 $49 亿收购 ZT Systems(系统设计),此后又收购了 MK1(推理软件)、MEXT 和 FastFlowLM。拟收购 Taalas 则为这条产品路线补充了模型专用硬件。
Groq 保留模型可编程性,Taalas 进一步限定具体模型
专用推理芯片的整合正在加速。2025 年 12 月,Groq 宣布与 Nvidia 达成非独家推理技术许可协议,部分团队成员加入 Nvidia,Groq 继续独立运营。媒体报道的交易金额约为 $200 亿,双方公告未披露财务条款。Groq 的 LPU(语言处理单元)同样是针对推理优化的专用架构,但其数据流设计仍然保留了相当的可编程性。
与 Groq LPU 相比,Taalas 的硬化程度更进一步。Groq 将模型权重预加载到 SRAM 中,绕过缓存层级;Taalas 则将模型权重固化进定制电路。前者可以通过重新加载权重来切换模型,后者则需要重新流片。减少模型权重搬运,是 Taalas 追求性能和单位成本优势的主要方法;不同系统的差距仍需要结合具体模型和测试设置判断。
另一个竞品是初创公司 Etched,其 Sohu 芯片专门为 Transformer 架构设计,不能运行 CNN、LSTM 等非 Transformer 模型。Taalas 在专用化光谱上比 Etched 走得更远——它不仅限定架构,还限定了具体模型。
模型更新频率与多种芯片的运维成本,决定方案是否划算
Taalas 的商业模式能否成立,取决于两个关键变量。
第一是目标模型的更新频率。Freund 的成本讨论以模型通常约一年更新为背景;这是一项影响专用芯片经济性的假设,不能直接套用到所有前沿模型。如果目标模型稳定运行足够长时间,硬件固定带来的限制才更容易接受。但如果出现颠覆性的新架构(例如非 Transformer),硬化的芯片将面临快速淘汰。不过 Taalas 创始人曾指出,即使是架构级变化,下层基础运算模式也趋于收敛,只需修改金属层而非全部重新设计。
第二是数据中心是否愿意接受多 SKU 运维复杂度。Forbes 的 Freund 指出,没有数据中心愿意管理数十种不同的加速器 SKU,操作复杂性「难以想象」。但反过来看,如果推理流量高度集中在少量旗舰模型上——例如 Meta 用 Llama 家族、Anthropic 用 Claude 家族——SKU 数量可以控制在个位数。
AMD 的选择空间在于,它同时拥有通用 GPU 和专用加速器。客户不需要在两条路线之间做非此即彼的选择。一种可能的部署方式是:新模型先在 Instinct GPU 上验证,待推理量和版本稳定后,再评估是否切换到 Taalas 加速器。它能否降低单位成本,仍需计入硬件更新与运维费用。
这笔拟议收购说明,AMD 正把模型专用硬件作为推理优化的一条补充路线。它是否能在大规模部署中胜过通用方案,取决于速度与功耗优势能否覆盖制造、更新和运维成本。
The Register 和 Wccftech 的报道均引述了 The Next Platform 2 月对 Taalas 的深度技术分析作为关键来源。HC2 的实际部署时间,以及 AMD 收购后的具体集成安排,仍需后续公告确认。
