字节跳动正进一步加码国产AI算力布局。据媒体报道,字节跳动正与国产GPU厂商天数智芯(IluvatarCoreX)洽谈采购至少5万颗AI芯片,主要用于大模型推理负载。若交易达成,天数智芯将成为继华为和寒武纪之后,字节跳动的第三家GPU供应商。
本次洽谈供货芯片主要对应天数智芯智铠系列云端推理GPU,训练场景则使用天垓系列。天数智芯成立于2015年12月,专注于GPGPU芯片设计,2021年推出的天垓Gen1是中国首款实现量产的GPGPU产品,也是国内首款采用7纳米制程的量产GPGPU芯片。目前公司已建立训练与推理的完整产品线布局:天垓系列面向AI训练场景,最新的天垓Gen3已于2024年第三季度发布;智铠系列则针对云端与边缘推理场景。
据路透社援引机构测算,天数智芯的智铠推理芯片单块均价约为1.2万元人民币(约合1775美元)。若5万颗订单落地,仅该批芯片采购金额就将超过6亿元。华泰证券预计,天数智芯2026年总出货量将从2025年的约4.2万块提升139%至超过10万块。
字节跳动已明确训练与推理芯片供应链完全拆分:大规模模型训练采用华为昇腾、寒武纪高端训练卡;线上C端豆包及企业MaaS海量并发推理则引入天数智芯智铠系列等专用推理GPU。5万颗推理芯片将主要用于支撑字节跳动旗下AI聊天机器人“豆包”等产品的推理运算需求。