全球首发!无问芯穹发布千卡规模异构芯片混训平台,筑基面向MxN生态格局的AI Native基础设施
2025-07-11 08:53:39 - 瓜榜
“打开水龙头前,全球千我们不需要知道水是首发N生设施从哪条河里来的。同理,无问未来我们用各种AI应用时,芯穹芯片也不会知道它调用了哪些基座模型,发布用到了哪种加速卡的规模算力——这就是最好的AI Native 基础设施。”
7月4日,异构在2024年世界机器智能大会AI基础设施论坛上,混训无问芯穹联合创始人兼CEO夏立雪发布了全球首个千卡规模异构芯片混训平台,平台千卡异构混合训练集群算力利用率最高达到了97.6%。筑基同时,态格夏立雪宣布无问芯穹Infini-AI云平台已集成大模型异构千卡混训能力,局的基础是全球千全球首个可进行单任务千卡规模异构芯片混合训练的平台,具备万卡扩展性,首发N生设施支持包括AMD、无问华为昇腾、天数智芯、沐曦、摩尔线程、NVIDIA六种异构芯片在内的大模型混合训练。7月起,通过试训申请的客户,已可在Infini-AI上一键发起700亿参数规模的大模型训练。
就在4个月前,无问芯穹Infini-AI大模型开发与支持云平台宣布首次公测,已有智谱AI、月之暗面、生数科技等大模型公司客户在Infini-AI上稳定使用异构算力,还有20余家AI Native应用创业公司在Infini-AI上持续调用各种预置模型API,使用无问芯穹提供的工具链开发自身业务模型。此次发布全球首个可进行千卡规模异构芯片混训的平台,不仅是无问芯穹在异构计算优化与集群系统设计方面的深厚底蕴和卓越工艺的实力体现,同时也是无问芯穹秉承“MxN”中间层生态理念的关键成果。
【打破异构芯片“生态竖井”,让异构芯片转化为大算力】
作为大模型生命周期中不可或缺的两个阶段,训练和推理均需要强大的计算资源支撑。然而,与国际上模型层与芯片层“相对集中”的格局相比,中国的模型层与芯片层更加“百花齐放”。然而,大量的异构芯片也形成了“生态竖井”,不同硬件生态系统封闭且互不兼容,给算力的使用方带来一系列工艺挑战。
据不完全统计,宣布拥有千卡规模的中国算力集群已不少于100个,出于诸多缘由,比如过度依赖单一硬件平台可能会使企业面临供应链风险,又比如国产芯片的性能快速提升为集群方提供了多种选择,绝大部分集群已经或正在从同构转向异构。“生态竖井”的存在让大多数企业和开发者对此望而却步,即便算力集群众多,也难以实现有效的整合与利用,这无疑是对算力资源的浪费。“生态竖井”不仅成为构建AI Native基础设施的最大难点,也是当前大模型行业面临“算力荒”的关键原因。
构建适应多模型与多芯片格局的AI Native基础设施,无问芯穹的底层解法是,提供高效整合异构算力资源的好用算力平台,以及支持软硬件联合优化与加速的中间件,让异构芯片真正转化为大算力。这一系列研、产进展背后,是无问芯穹研发团队在异构芯片计算优化与集群系统设计上的强大实力支撑。近日,无问芯穹与清华、上交的联合研究团队发布了HETHUB,这是一个用于大规模模型的异构分布式混合训练系统,这是业内首次实现六种不同品牌芯片间的交叉混合训练,且工程化完成度高。夏立雪介绍,这项工艺工程化的初衷,是希望能够通过整合更多异构算力,继续推高大模型工艺能力的上限,同时通过打通异构芯片生态,持续降低大模型应用落地成本。
【引领“MxN”生态格局的AI Native基础设施建设,让天下没有难用的AI算力】
当前,大模型行业增长正在进入规模化产业落地阶段,应用场景的百花齐放,带来了对大模型训练日益迫切的需求,巨大的市场前景,使得基础模型和算力芯片的行业玩家迅速攀升。构建大模型时代的AI Native基础设施,不仅能够为AI开发者提供更加通用、高效、便捷的研发环境,同时也是实现算力资源有效整合,支撑AI产业可持续增长的关键基石。
无问芯穹具备顶尖的AI计算优化能力与算力解决方案能力,以及对“M种模型”与“N种芯片”行业格局的前瞻判断,率先构建了“MxN”中间层的生态格局,实现多种大模型运算规则在多元芯片上的高效、统一部署。 截止目前,Infini-AI已支持了Qwen2、GLM4、Llama3、Gemma、Yi、Baichuan2、ChatGLM3系列等共30多个模型,以及AMD、华为昇腾、壁仞、寒武纪、燧原、海光、天数智芯、沐曦、摩尔线程、NVIDIA等10余种计算卡。
无问芯穹致力于成为AI Native 基础设施领跑者,未来将继续突破异构算力优化与集群系统设计的工艺上限,持续拓展模型层和芯片层的上下游生态伙伴力量,共同实现“MxN”的有效打通、利用和整合,构建真正适应多模型与多芯片的AI Native基础设施,让天下没有难用的AI算力,助力推动大模型在各行业中的应用创新。
“工艺上限推高与工艺落地扩散不矛盾,且取决于我们决心如何对待这个工艺。”夏立雪表示,今天说让大模型成本下降10000倍,就像30年前说让家家户户都通电一样。优良的基础设施就是这样一种“魔法”,当边际成本下降到临界值,就能有更多的人拥抱新工艺。
雷峰网(公众号:雷峰网)
雷峰网版权文章,未经授权禁止转载。详情见转载须知。
- END -
专访面壁曾国洋:踩过 1000 次大模型的坑后 ,造一个性能小钢炮

2月1日,刚成立一年的面壁智能发布了两个在海内外大模型领域「炸裂级」的存在——面壁 MiniCPM 2B 旗舰端侧大模型与面壁OmniLMM多模态大模型。MiniCPM 2B 有着当之无愧的「小钢炮」
赛车手刘瑞祺出席首届RED GALA 尽显时尚质感

来源标题:赛车手刘瑞祺出席首届RED GALA 尽显时尚质感近日,由央视影频道CCTV6)与小红书联合发起的首届【小红书RED GALA春天开幕式】在杭州西湖举办。活动以春天为主题,通过水上红毯、春日
中国凉谷音乐盛典:张宏光、滕矢初、臧云飞打卡“奋斗者小时光”

来源标题:中国凉谷音乐盛典:张宏光、滕矢初、臧云飞打卡“奋斗者小时光”6月11日,太行山大峡谷红豆峡苍翠欲滴,“2025中国十大避暑山庄”之首的澳涞山庄,因“奋斗者
韶音启心,少年赋 —— 海淀区青少年活动管理中心华乐室内交响乐团专场音乐会圆满举办

来源标题:韶音启心,少年赋 —— 海淀区青少年活动管理中心华乐室内交响乐团专场音乐会圆满举办2025年6月8日,海淀区青少年活动管理中心华乐室内交响乐团迎来了一场意义非凡的演出—&mdas
马斯克的Space X卫星被破解,25美元的工具就能入侵终端,篡改运行任意代码,攻击手法已公开

对于黑客来说,电脑可以破解、游戏机可以破解、手机可以破解,那远在天上的卫星可以破解吗?答案是可以的!而且被破解的还是世界首富马斯克旗下Space X星链计划中的卫星。破解星链卫星的小哥来自来自比利时鲁
《寻访大师》:以国际传播之视野,书写跨国度之文明互鉴

来源标题:《寻访大师》:以国际传播之视野,书写跨国度之文明互鉴西方绘画史上,印象派以进一步解放色彩著称。自莫奈开始,色彩不再是从属于素描的形体结构,而成为光与色的独立探索。莫奈自由快速的笔触与鲜明的色
岂止《长安的荔枝》?!百奥除湿全系产品,引领温湿度行业发展

来源标题:岂止《长安的荔枝》?!百奥除湿全系产品,引领温湿度行业发展剧版《长安的荔枝》开播一周!精彩又接地气的情节,折射出唐代职场打拼与不易,引起现代打工的人和网友们的深度共鸣,成为热度极高的热搜话题
电影《恋曲尘封》今日上映 聚焦弄堂里的“生煎”人生

来源标题:电影《恋曲尘封》今日上映 聚焦弄堂里的“生煎”人生日前,由吴有音导演/编剧,蒋雯丽、黄轩、黄小蕾、罗辑、林栋甫主演,马思纯特别出演的电影《恋曲尘封》发布今日上映海报。一本旧日记,一支素描笔,
大模型「点火」,AI for Science 提速

在生产环节中,95% 是一个分水岭。以人为对照标准,人工的准确率在 92% 至 98% 之间,因此,行业对机器容忍度的判别标准取之中位数,未达到 95% 的部分,无论是 80% 乃至 90% 的准确率
今天,130年的世界电影和120年的中国电影在上海相遇

来源标题:今天,130年的世界电影和120年的中国电影在上海相遇《穆赫兰道》剧照绘出不拘一格的“电影史”风貌130年的世界电影和120年的中国电影在六月的上海相遇,这一届上海国
王易丹制片人演员(非常关系)

来源标题: 王易丹制片人演员(非常关系)王易丹,出身江苏,毕业于上海戏剧学院,80后的她身高163CM,体重56kg,制片人、演员、歌手一身的艺术家,企业家。王易丹职业:影视演员,制片人,深耕影视娱乐
于谦首档个人社交微综艺今日头条独家开播,《一茶两座》以茶会友畅聊人生哲学

来源标题:于谦首档个人社交微综艺今日头条独家开播,《一茶两座》以茶会友畅聊人生哲学6月10日,由今日头条独家出品的于谦首档个人社交微综艺《一茶两座》正式开播。德云社演员于谦化身茶席主人,以&ldquo