首页 > 正文

蚂蚁集团AI重大突破:使用国产AI芯片训练大模型 成本可进一步降低

2025年03月25日 00:46
来源: 证券时报
编辑:东方财富网
分享到:
摘要
【蚂蚁集团AI重大突破:使用国产AI芯片训练大模型 成本可进一步降低】近日,蚂蚁集团Ling团队发表了一篇技术成果论文。论文显示,蚂蚁集团推出了两款不同规模的MoE大语言模型——百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),前者参数规模为168亿(激活参数27.5亿),Plus基座模型参数规模高达2900亿(激活参数288亿),两者性能均达到行业领先水平。除了自研性能领先的大模型以外,该技术论文最大的突破在于提出了一系列创新方法,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE(混合专家)大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。

  在东方财富看资讯行情,选东方财富证券一站式开户交易>>

  蚂蚁集团使用国产AI芯片训练大模型,成本可进一步降低。

  近日,蚂蚁集团Ling团队发表了一篇技术成果论文。论文显示,蚂蚁集团推出了两款不同规模的MoE大语言模型——百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),前者参数规模为168亿(激活参数27.5亿),Plus基座模型参数规模高达2900亿(激活参数288亿),两者性能均达到行业领先水平。

  除了自研性能领先的大模型以外,该技术论文最大的突破在于提出了一系列创新方法,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE(混合专家)大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。

  在低性能硬件上高效训练的自研大模型

  目前,蚂蚁集团Ling团队的技术成果论文《每一个FLOP都至关重要:无需高级GPU即可扩展3000亿参数混合专家LING大模型》已发表在预印版Arxiv平台上。

  据技术成果论文,虽然DeepSeek、阿里通义千问、MiniMax等系列的MoE大模型在特定任务中展现出卓越性能,但是MoE模型的训练通常依赖高性能计算资源(如英伟达H100/H800等先进GPU),高昂成本制约了在资源受限环境中的普及应用。同时,近年来英伟达高性能芯片持续短缺,相比之下,低性能加速器供应更充足且单机成本更低。这种差异凸显了构建跨异构计算单元与分布式集群无缝切换技术框架的必要性。

  因此,Ling团队设定的目标是“不使用高级GPU”来扩展模型,并通过提出创新性的训练策略,旨在突破资源与预算限制实现高效大语言模型训练,从而推动AI技术向普惠化方向发展。

  具体而言,团队提出的创新策略包括:1)架构与训练策略革新:动态参数分配与混合精度调度技术;2)训练异常处理机制升级:自适应容错恢复系统缩短中断响应时间;3)模型评估流程优化:自动化评测框架压缩验证周期超50%;4)工具调用能力突破:基于知识图谱的指令微调提升复杂任务执行精度。

  据技术论文,Ling团队在五种不同的硬件配置上对9万亿个token进行Ling-Plus的预训练,其中使用高性能硬件配置训练1万亿token的预训练成本约为635万元人民币,但利用蚂蚁的优化方法后,使用低规格硬件的训练成本将降至508万元左右,节省了近20%,最终实现与阿里通义Qwen2.5-72B-Instruct和DeepSeek-V2.5-1210-Chat相当的性能。

  此前,DeepSeek通过一系列算法创新及工程优化,使用性能较低的英伟达H800训练出了性能与顶尖模型相当的V3与R1,为大模型的训练开辟了新的道路,让更多的企业和研究机构看到了降低成本、提高效率的可能性。如果蚂蚁集团的技术成果得到验证及推广,意味着国产大模型能够寻找成本更低、效率更高的国产芯片或其他替代方案,以进一步降低对英伟达芯片的依赖。

  蚂蚁持续加码AI应用与人形机器人

  记者了解到,百灵大模型作为蚂蚁集团自研的大模型,重点布局在生活服务、金融服务、医疗健康等场景的应用。去年5月,蚂蚁在开放日上对外展示了多个AI创新应用产品,并首次公布了AI应用矩阵。蚂蚁集团CTO何征宇透露,基于蚂蚁百灵大模型的三个应用是蚂蚁当下重点破局方向:生活管家、就医助理及金融助手。

  3月21日,蚂蚁宣布AI医疗领域的最新进展:发布面向医疗机构、医生、用户三端的AI产品体系升级,其中,面向医疗机构,我们联合华为医疗卫生军团、阿里云、苹果等推出“蚂蚁医疗大模型一体机”全栈式解决方案;面向医生,发布AI医生助手系列工具;同时,面向用户的健康应用“AI健康管家”也推出智能思考、健康自测等十余项新功能。

  除了AI以外,蚂蚁近期在人形机器人领域也动作频频。今年2月,某招聘平台信息显示,蚂蚁集团开放招聘具身智能人形机器人系统和应用等岗位,年薪高达百万元。而早在去年12月,蚂蚁集团就注册成立了上海蚂蚁灵波科技有限公司,聚焦具身智能技术和产品研发。

  据浦东发布消息,3月11日,上海蚂蚁灵波科技有限公司在上海浦东举行揭牌仪式。据介绍,蚂蚁灵波科技是蚂蚁集团拓展具身智能和机器人业务的主要载体,致力在家庭、养老、医疗健康等领域打造行业领先的机器人产品,此番落地将与浦东携手共进,在未来产业新赛道上相互促进、共谋发展,助力浦东加快技术引领、行业集聚、产业升级步伐,打造以人形机器人为引领的具身智能创新高地和具有行业影响力的创新产业生态。

  具身智能人形机器人作为新兴领域,具有广阔的市场前景和巨大的商业潜力。蚂蚁集团可能希望通过布局该领域,探索新的增长点,并推动人机交互的新体验。此外,具身智能人形机器人技术还可以与蚂蚁集团现有的金融科技业务产生协同效应,共同推动技术创新和业务升级。

  业内人士分析称,具身智能人形机器人为新兴领域,市场前景广阔。蚂蚁集团布局该领域,有助于探索新的增长点,并基于自身在人工智能大数据云计算等方面的技术优势和已有业务布局,加速人形机器人的研发和在相关业务场景中的应用。

  在东方财富看资讯行情,选东方财富证券一站式开户交易>>

(文章来源:证券时报)

(原标题:蚂蚁集团,AI重大突破!)

(责任编辑:10)

分享到:
还可输入
清除
提交评论
郑重声明:用户在社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》
热门评论 查看全部评论
全部评论
最新 最热 最早
置顶
2025-03-25 06:56:31
蚂蚁集团Ling团队创新训练策略,使3000亿参数MoE大模型在低性能国产GPU上高效训练,成本降至508万元,性能与行业领先模型相当,有望降低对英伟达芯片依赖,推动AI技术普惠化。
取消置顶 删除 举报 评论 点赞
2025-03-25 21:28:35
芯片白送还是买英伟达的划算,耗材与电费节省成本。
置顶 删除 举报 评论 点赞
2025-03-25 10:36:58
看到这个消息,我一个90岁的老人比蚂蚁集团的具身机器人开发团队的科技人员更兴奋,老人伺服机器人离我们越来越近了,这是对社会(尤其是中国社会)最大贡献,阿里巴巴的电商已经为老人解决了很大困难,现在我足不出户就能买到我需要的一切,可以说室外的服务淘宝全包了 ,也为国家做了贡献,现在老人的室内服务,看来阿里系统也十分关心,地方政府嘴上说的很好,但具体行动太少,也难怪政府的工作太多了,根本顾不上老人,而阿...[展开]
置顶 删除 举报 评论 点赞
股友lrdTFZ : 哥,买了阿里巴巴的股票就直说嘛!绕这么大圈子码字不累丫,,!阿里的机器人是全世界的,放心加仓买阿里巴巴就是了[握手]
2025-03-25 12:12:54
删除 举报 评论 点赞
2025-03-25 09:09:47
国产AI芯片,值得信赖[赞]
置顶 删除 举报 评论 1
2025-03-25 09:08:46
火车刚出现的时候,马车也可以通过改善马车的结构、提升马的训练方法,达到和火车速度相当的水平。
置顶 删除 举报 评论 2
加载更多
查看全部评论
 
 
 
 

网友点击排行

 
  • 基金
  • 财经
  • 股票
  • 基金吧
 
郑重声明:天天基金网发布此信息目的在于传播更多信息,与本网站立场无关。天天基金网不保证该信息(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关信息并未经过本网站证实,不对您构成任何投资决策建议,据此操作,风险自担。数据来源:东方财富Choice数据。

将天天基金网设为上网首页吗?      将天天基金网添加到收藏夹吗?

关于我们|资质证明|研究中心|联系我们|安全指引|免责条款|隐私条款|风险提示函|意见建议|在线客服|诚聘英才

天天基金客服热线:95021 |客服邮箱:vip@1234567.com.cn|人工服务时间:工作日 7:30-21:30 双休日 9:00-21:30
郑重声明:天天基金系证监会批准的基金销售机构[000000303]。天天基金网所载文章、数据仅供参考,使用前请核实,风险自负。
中国证监会上海监管局网址:www.csrc.gov.cn/pub/shanghai
CopyRight  上海天天基金销售有限公司  2011-现在  沪ICP证:沪B2-20130026  网站备案号:沪ICP备11042629号-1

A
安联基金安信基金
B
博道基金渤海汇金北京京管泰富基金百嘉基金贝莱德基金管理博时基金北信瑞丰宝盈基金博远基金
C
长安基金长城基金长城证券财达证券淳厚基金创金合信基金长江证券(上海)资管长盛基金财通基金财通资管诚通证券长信基金财信证券
D
德邦基金德邦证券资管大成基金东财基金达诚基金东方阿尔法基金东方红资产管理东方基金东莞证券东海基金东海证券东吴基金东吴证券东兴基金东兴证券第一创业东证融汇证券资产管理
F
富安达基金蜂巢基金富达基金(中国)富国基金富荣基金方正富邦基金方正证券
G
光大保德信基金国都证券广发基金广发资产管理国海富兰克林基金国海证券国金基金国联安基金国联基金格林基金国联民生国联证券资产管理国融基金国寿安保基金国泰君安资管国泰基金国投瑞银基金国投证券国投证券资产管理国新国证基金国信证券国新证券股份国信证券资产管理工银瑞信基金国元证券
H
华安基金汇安基金华安证券华安证券资产管理汇百川基金华宝基金华宸未来基金华创证券泓德基金华富基金汇丰晋信基金海富通基金宏利基金汇泉基金华润元大基金华商基金惠升基金恒生前海基金华泰柏瑞基金华泰保兴基金红土创新基金汇添富基金红塔红土恒泰证券华泰证券(上海)资产管理华夏基金华西基金华鑫证券合煦智远基金恒越基金弘毅远方基金
J
嘉合基金景顺长城基金嘉实基金九泰基金建信基金江信基金金信基金金鹰基金金元顺安基金交银施罗德基金
 
19000人参与 评论44查看全部评论