江南体育“大模型训练需要大量数据,因此对算力的要求很高。”在日前召开的首届“AI Tech Day(人工智能科技日)”峰会上,中国工程院院士、清华大学计算机科学与技术系教授郑纬民介绍,自去年12月份以来,大模型需要的AI芯片涨价一倍JN SPORTS,国外芯片“一卡难求”。尽管国内数十家公司在AI芯片研制和生产方面取得了很大进步,但国产芯片尚未受到市场的广泛青睐。
对此,与会专家呼吁,解决算力难题,应重塑大模型算力生态,助力国产AI芯片系统练好“内功”。
“如果基于国外芯片编写的软件能够很容易移植到我们的国产芯片系统上来JN SPORTS,用户就会感觉到国产芯片好用。”郑纬民认为,但由于生态建设不完备,目前国产芯片在大模型训练相关软件移植方面表现不太顺畅,因此需要进一步加强底层研发,做好包括编程框架JN SPORTS、并行加速、通信库在内的软件研发工作。
“为了发展AI芯片的生态体系,一些国际大企业甚至可以放弃一些高利润的项目和方案。”英博数科CEO周韡韡介绍,营造生态需要发动整个行业的创新力量,例如国际企业曾通过主动开源部分软件的底层代码、让利给基于芯片的软件开发者,形成以AI芯片为核心的算力体系。
相较于芯片本身的硬件性能提升,郑纬民认为,通过营造生态,提升国产AI芯片的“包容力”更加急迫。“如果算力生态做得非常好,即使国产芯片的硬件性能只有国外性能的60%及以上,大家也会喜欢用。”郑纬民说,但如果算力生态没做好,新型软件跑不起来、软件移植不顺畅,即便硬件性能达到国外的120%,照样难以转变为有效算力。
为凝聚行业力量、改变当前的大模型算力生态,英博数科联合百川智能、中国计算机学会、清华大学等单位共同成立北京AI创新赋能中心技术委员会。作为该技术委员会的顾问,清华大学电子工程系教授汪玉表示:“在大模型领域,我们将同时从软件侧和硬件侧方面开展联合优化。在打造通用型人工智能服务平台的同时,推动高性能计算领域智能芯片和高模态电路关键技术的研发。”
“大模型兴起之前建设的算力,相对而言利用率较低,跟不上现阶段大模型对算力指数级发展的需求。”艾瑞咨询产业数字化研究院负责人徐樊磊介绍,为提升整体算力效率和满足差异化需求,应建立支撑大模型万亿量级参数计算的“智算中心”。“智算中心”可利用现有高质量数据中心,通过提升组网能力、协同能力、软硬件适配能力等实现部署。当前,“万卡”级别的智算中心正在主要节点城市发展起来。
与会专家认为,推动现有算力融合创新将进一步提升当前算力使用效率。“1万块卡(AI芯片)应该怎么连?是不是每块卡和其他9999块直连?如果这样,中间的连接将需要1万乘以9999个连接卡,成本将非常高。”郑纬民说,通过最有效的连接支持模型并行、数据并行等不同的要求,是融合创新的关键。
大模型背后运行的是更加复杂的网络架构和智能算法。如何在降本增效的同时,促进大模型算力使用门槛的降低?“‘云’模式是打通供需不对称、达成算力普惠的有效路径。”周韡韡表示,通过共享、共融集结现有算力,万卡平台及配备高效网络交互机制的大模型训练与推理平台,可以开放给大企业、小微企业共用。通过搭载数据迁徙、训练数据库等工具,云平台等基础生态的搭建有望让算力像水和电一样随取随用。(记者 张佳星)
1月26日,《科学(Science)》期刊在线发表了中国农业科学院基因组所(省实验室深圳分中心)闫建斌研究员与北京大学雷晓光教授等合作完成的最新研究成果,标志着我国在紫杉醇合成生物学理论和技术上站在了世界领先地位。
穿过制造中心入口的风淋系统,整条产线映入眼帘,一台台设备完成装配调试后,输送至各集成电路先进产线,参与“中国芯”制造。
2023年全球高级持续性威胁(APT)活动依然非常严峻,全球APT组织主要分布于美国、印度等国家和地区,美国依然是世界网络安全的主要威胁。
我国大熊猫及其栖息地保护、古树名木保护取得新成效。 国家林草局动植物司二级巡视员张月表示,为加强大熊猫保护,我国先后开展了四次全国性大熊猫调查,掌握了其野外种群及分布情况。
国家卫生健康委25日举办新闻发布会,介绍我国冬季呼吸道疾病防治和健康提示有关情况。雨雪天气可能导致道路结冰、湿滑,对交通出行带来不利影响,特别要关注旅途安全。
当今地球上所有的复杂生命都是多细胞真核生物,真核生物的多细胞化是生命向复杂化和大型化演化的必备条件,被认为是生命演化史上的重大事件之一。
记者1月25日从中国科学技术大学获悉,该校潘建伟、陈宇翱、戴汉宁等组成的研究团队,成功研制了万秒稳定度和不确定度均优于5×10-18(相当于数十亿年的误差不超过一秒)的锶原子光晶格钟。
科技创新是“国之大者”,是企业发展的原动力。2023年,国务院国资委和中央企业积极践行新型制,以强烈紧迫感和强有力举措全力推进科技创新,创新效能进一步提升。
无人机的应用与发展已经形成了全领域应用的态势,在应用需求的强力牵引和新技术发展的有力支持下,无人机的发展未来可期。
日前,安徽大学、南京师范大学、中国科学院成都生物研究所研究人员在国际期刊《动物杂志》上报道了一种来自大别山区的壁虎新种——大别山壁虎。
该足迹化石是诸城在白垩纪存在过古鸟类的确凿证据,对古生物地理分布、古环境复原等研究工作都有着重要意义。
量子网络是实现量子互联网的基础,也是量子计算机规模化的一种重要途径,生成离子-光子纠缠是实现离子阱量子网络的关键步骤。 为了克服这些困难,上述课题组提出使用同种离子的双类型量子比特实现量子网络结点的方案。
1月23日,高光谱综合观测卫星正式上岗投入使用。 这些能力的实现,依赖于卫星搭载的三台遥感仪器——可见短波红外高光谱相机、大气痕量气体差分吸收光谱仪、宽幅热红外成像仪三台遥感仪器。
随着期末考试和寒假的到来,首都儿科研究所(以下简称“首儿所”)的学习困难门诊“一号难求”。
我国首个深水高压气田开发项目“深海一号”的二期工程取得关键进展,于近日在深圳建造完工的、用于托举生产平台的导管架,24日乘驳船从深圳赤湾港启航,前往工程所在的南海北部大陆架西区的琼东南海域。
大质量星系群和星系团作为宇宙中最大的结构,其动力学平衡状态反映了宇宙演化的状态,也就反映了宇宙的年龄。
中国科学技术大学教授周蒙课题组与清华大学教授王泉明团队合作,在溶液中实现了金属团簇99%量子产率的近红外发光,并揭示了其三重态发光机制
我国动力电池累计销量达616.3吉瓦时,同比增长32.4%;累计装车量387.7吉瓦时,同比增长31.6%;累计出口达127.4吉瓦时,同比增长87.1%。全球装车量前10名的动力电池企业中,中国企业占据6席
张朝阳、冯仑跨界对线日,搜狐创始人、董事局主席兼首席执行官、物理学博士张朝阳与御风集团董事长、万通集团创始人、法学博士冯仑围炉煮茶,开启了一场《星空下的对话》,分享创业故事、探讨时代机遇与人生选择。
记者从山东省诸城市恐龙文化研究中心获悉,当地发现的距今1亿多年早白垩世的鸟类足迹化石近日获正式研究命名——“玲珑诸城鸟足迹”。