江南近日,在2024世界半导体大会暨南京国际半导体博览会的一场分论坛上,江苏鲲鹏・昇腾生态创新中心首席运营官王陶发表了重要讲话。他表示,昇腾AI芯片在国内已完成训练千亿参数大模型的技术路线中,性能已超过英伟达A100江南体育,成为国内大模型训练的首选技术路线江南体育。
王陶透露,在中国大模型中,有将近50%选择了昇腾技术路线。昇腾AI芯片在训练效率层面最高可达英伟达1.1倍。在训练Meta Llama、BloomGPT等模型中,昇腾AI的算力训练效率更是“大大优于”英伟达A100,“10倍领先”于其他国产友商。这一成果得到了科大讯飞等公司的验证,科大讯飞采用了华为的万卡集群,该集群与英伟达A100相比能达到0.8~1.2倍的效率。
王陶还强调,昇腾已成为国产化大模型第一选择。经过测试,与英伟达A100芯片相比,昇腾在万卡算力集群中的训练效率并不逊色,甚至在某些方面已经超越了英伟达A100芯片。这一成果对于国产芯片的发展具有重要意义,也表明了昇腾在国产化大模型训练中的重要地位。
昇腾AI芯片在训练国内大模型中的表现卓越,已成为国内大模型训练的首选技术路线江南体育。这一成果不仅对国内半导体产业的发展具有推动作用,也为人工智能领域的研究和应用提供了强大的技术支持。未来,昇腾有望在更多领域展现出其强大的实力和潜力。