江南有知情人士透露称,字节跳动正在自主研发两款AI芯片江南,旨在减少对昂贵的NVIDIA芯片的依赖,并提升其在市场的竞争力。
这两款芯片分别针对模型训练和推理设计,其中一款用于加速构建人工智能模型所需的大量数据计算,即训练芯片。
另一款则用于加速基于模型的预测和决策过程,即推理芯片,字节跳动已向台积电预定了数十万颗芯片,预计通过采购自研芯片江南,可节省数十亿美元的成本。
字节去年推出了首款人工智能聊天机器人“豆包”,并在今年推出了一系列低成本的大语言模型。
与此同时,字节跳动在开发生成式AI模型方面的费用不断上升,今年已订购了超过20万颗英伟达H20芯片,总金额超过20亿美元。
字节跳动的芯片研发工作和谷歌、亚马逊和微软等公司近年来的做法一样江南,即减少对英伟达芯片的依赖。