封面往事记者 欧阳宏宇

在算力紧缺的提效行动布景下，若何提升大模子磨炼以及推理的大模大模大幅功能，并飞腾老本 ，国产功成为业界关注的磨炼焦点。

11月23日
，提升腾讯吐露其混元大模子眼前的提效行动自研机械学习框架Angel再次降级。降级后，大模大模大幅该学习框架可反对于单使命万卡级别超大规模磨炼
，国产功大模子磨炼功能提升至主流开源框架的磨炼2.6倍，千亿级大模子磨炼可节约50%算力老本。提升

大模子时期下，提效行动模子参数呈指数级削减 ，大模大模大幅抵达万亿级别，国产功大模子逐渐从反对于繁多模态以及使命睁开为需要反对于多种模态下的磨炼多种使命
。该趋向下，提升大模子磨炼所需算力重大，远超单个芯片的处置速率 ，而多卡扩散式磨炼通讯斲丧重大。若何后退硬件资源运用率，成为影响国产大模子技术睁开以及适用性的紧张条件 。

模子磨炼功能将抉择其进化速率，也是BAT等厂商比拼的中间。就在不久前举行的第二十届中国合计机大会上，baidu首席技术官王海峰就地下泄露，从往年3月宣告至今，文心大模子4.0磨炼算法功能已经提升3.6倍；经由飞桨与文心的协同优化
，周均磨炼有功能逾越98%
，推理功能提升50倍 。

阿里云通义大模子则聚焦于规模定理
，基于小模子数据扩散 、纪律以及配比，钻研大规模参数规模下若何提升模子能耐 ，并经由对于底层灵骏集群的优化，将模子磨炼功能提升了30%，磨炼晃动性提升了15%。

要提升大模子磨炼功能
，主要在于对于芯片、框架 、模子、运用四层的优化，以及baidu、阿里的逻辑差距，腾讯云对于混元大模子的优化会集在机械学习磨炼框架的调优，对于预磨炼  、模子精调以及强化学习等全流程妨碍减速以及优化。

据介绍 ，基于HCC高功能合计集群 ，AngelPTM接管混合精度磨炼技术 
，并优化了存储机制，可兼容适配多款国产化硬件
，可能以更少的资源以及更快的速率磨炼更大的模子 。同时，自研大模子推理框架AngelHCF经由扩展并行能耐 ，实现为了更快的推理功能以及更低老本，相较于业界主流框架，其推理速率后退了1.3倍
。在腾讯混元大模子文生图的运用中，推理耗时从10秒延迟至3至4秒。

事实上 ，调优模子磨炼方式 ，飞腾老本 ，最终的目的仍是更好面向运用途景
，飞腾终端运用的边缘老本。京东总体副总裁何晓冬就展现
，当初磨炼光阴在两个月摆布的根基通用大模子，老本估量在多少万万元 。对于此
，北京交通大学教授张宏科看来  ，未来用户运用大模子算力应像用电同样“即插即用”；斯坦福大学教授克里斯·曼宁则预料，不断上涨的算力老本，将匆匆使人们追寻更实用的AI算法磨炼方式 ，好比，当初已经有数十家公司开拓用于磨炼以及运行AI挨次的专用合计机芯片。

• ·马竞3-1费耶诺德取3连胜，埃尔莫索破门30年前那位渴望上学的“大眼睛女孩”，国家重点培养，现咋样了
• ·原创 再见76人！史诗级3方交易方案诞生，哈登加盟快船，联手威少小卡
• ·新赛季最有愿望拿下MVP的5位球员：字母哥的逆袭赛季，约基奇领衔
• ·世界濒危动物卷羽鹈鹕首现涞源
• ·独行侠轻取爵士，东契奇创历史！
• ·恩断义绝！哈登与76人关系恶化，快船成唯一出路，他仍在苦苦等待优秀的男生最喜欢这三大星女，为什么呢？
• ·公开挑战烈火穿行纯电车！风行雷霆助品牌电动化发展
• ·哈弗猛龙、传祺ES9，最新一批新车曝光，你看好哪台？CCTV5直播！世界杯首战前瞻：中国爆冷掀翻丹麦，水庆霞迎开门红
• ·火箭将调整轮换！4号秀正式回归，乌度卡提要求，赢球练兵两不误
• ·国内首款公开挑战烈火穿行的纯电车，风行雷霆到底有多强？热巴遭遇咸猪手！在机场穿露背吊带被路人摸后背，还曾被拍裙底
• ·预警！“火箭蛋”来袭，蛋价大涨16%，猪价“6连涨”，发生了啥？长大不孝顺的孩子，大多从小就爱说''这3句话''父母早发现早纠正
• ·手机太阳下看不清屏幕？你可能被厂商“忽悠”了
• ·季中赛步行者为什么打不过湖人？球迷赛后一番话直接戳中要害
• ·原创 大数据预测2023-2024赛季的英超冠军还是曼城卫冕，英超争4更激烈
• ·国内首次公开挑战！风行雷霆通过千度烈火穿行测试对比张翰的手，风月片教主徐锦江的“胶带缠身体”就很绅士了
• ·鹈鹕本该有着炸裂的现在和美好的未来，奈何玻璃二人太坑！