华为昇腾减速大模型研发落地，助力AI产业生态兴盛开展

“算力使能，开明有限”，2023开明数据中心峰会以此为主题，在北京国际会议中心成功举行。

在大模型时代的主机技术翻新分论坛上，华为昇腾互联网首席处置方案架构师安宝磊宣布主题演讲，对AI大模型开展趋向及运行方向，华为昇腾减速大模型研发和落地的技术长处与生态开展启动了片面的解读。

从公用到通用人工智能进入大模型时代

2022年11月，人工智能模型ChatGPT的颁布，掀起了AI热潮，也推进AI开展超过拐点，从“预测推断”走向“内容生成”。此前的AI技术开展，更多的处于公用畛域，即感知了解环球，能够代替低端的重复性上班。而随着ChatGPT，尤其是GPT-4的颁布，AI步入了生成和发明环球的开展阶段，可以在通用畛域代替较上流脑力休息上班，不只会思索还会学习，关键用于了解和生成。据了解，GPT-4已初步具有自主学习和思索才干，在文本/图像/音频/视频/代码等脑力休息场景中已到达人类80%的水平。

当人工智能进入大模型时代，随着AI大模型技术极速成熟，AI算法与运行的开发、上线部署与业务发放等环节均大幅简化，经常使用门槛大幅降落。在公用畛域场景专属化阶段，可称之为小模型时代，而随着越来越多的场景通用化，一套AI系统可以使能全业务流翻新，则预示着大模型时代的来到。安宝磊示意，随着大模型重塑产业格式，未来两年将落地50%+行业的外围场景。现阶段所面临的疑问，在于2C运行用户商业付费应战较大，2B运行内行业数据积攒、模型调测和行业运行集成等方面，均须要期间积攒。

从应战到翻新昇腾大模型+AI集群构筑松软底座

大模型不只须要算法，而且须要数据处置，软配件优化、模型开发、运行翻新的系统工程才干，作为复杂系统工程，大模型的每个环节都存在着少量工程技术应战，其中最关键的三个关键应战在于：一是如何生成高品质的数据和高品质的模型，在模型选型、架构调整设计、技术验证环节设计方面十分复杂，试错老本高；二是如何成功大规模训练和调优工程，大模型训练关于集群稳固性有很高的要求，假设算力平台不稳固，训练义务频繁终止，训练成绩有很大损失；三是如何成功高效业务落地，并确保具有继续翻新才干。关于局部企业而言，模型推理资源占用高，AI落地老本高，AI集成进入现网业务流环节冗杂，企业不足业务流程及组织调整阅历。

为处置以上应战，华为联结同伴推出了昇腾大模型处置方案，使能全流程开发与运行翻新。从数据、模型预备到算力预备、模型训练，再到模型部署和集成，处置方案均可满足，不只实用于多种场景，而且应答全行业客户需求，运行了昇腾AI基础软配件才干、同伴模型以及平台长处，结合生态同伴彼此在大模型训练、微和谐优化方面的算法和模型才干，减少了大模型推理引擎、调优工具和算子减速库。方案的长处在于10倍集群稳固性、20倍大模型无损紧缩、智能生成和标注指令数据，以及独创混合架构、万亿参数微调，2倍transformer计算效率，以及小时级运行极速上线，短时延，高吞吐，高效推理部署。

大模型须要大算力，华为昇腾AI集群为大模型翻新运行构筑松软底座。从Atlas 900 PoD到Atlas 900 A2 PoD，经过产品的始终更新继续迭代更新，华为可提供业界上游的人工智能大规模集群。经过可诊断、可权衡、可复原的多级牢靠机制，可提供10倍级优化集群系统稳固性。其中，无感知断点续训，可成功千亿参数模型30分钟无感复原训练，从仿真验证到缺点检测+诊断+预测，片面保证配件稳固牢靠。与此同时，方案经过软配件原生协同设计，还可成功系统级优化AI集群，减速大模型训练开发。

从深度开明到片面兼容华为减速昇腾AI产业生态兴盛开展

在大模型时代，开明的生态也十分关键。昇腾AI深度开明，片面允许业界各类框架、减速库及三方社区生态，并提供全流程迁徙工具，可极速成功大模型和运行的适配，目前已允许ChatGLM、LLaMA2、GPT、BLOOM等数十个业界干流大模型。同时，基于昇腾AI也原生孵化了业界首个两千亿参数的中文NLP大模型鹏程·盘古，业界首个多模态大模型紫东·太低等30+基础大模型，并在各行业运行落地。

内行业运行畛域，昇腾在大模型的行业落中央向探求最早，在动物医药、教育、遥感、电力和互联网等多个行业场景成功了多个大模型的运行落地。国际的互联网公司曾经在介绍广告，搜查，内容查看等内围业务场景越来越多的经常使用昇腾产品方案，满足互联网公司对AI算力极速增长需求的同时助力互联网行业打造翻新运行，优化业务竞争力。在基础大模型方面，昇腾孵化的基础大模型涵盖了多个技术畛域，对各个技术方向下的大模型孵化均有积攒。在大模型产业落地上，昇腾AI联结产业链高低游同伴，推进大模型技术减速落地，目前已成立多模态人工智能产业联结体、智能遥感开源生态联结体和智能流体力学产业联结体，未来还方案在智慧育种、AI动物制药等畛域牵引成立联结体，促成大模型产业聚合开展。

随同大模型带来的生成式AI打破，人工智能正进入一个新时代。当初，昇腾AI产业正在蓬勃开展中，华为携手多家协作同伴在互联网、金融、经营商等多畛域打造2500多个AI处置方案，提供软配件允许，开明AI模组、减速卡，推出方式多样的接口开发文档和参考设计，助推市场翻新优惠稳步优化。面向未来，华为将经过系统级翻新、保持开源开明、深耕行业，减速昇腾人工智能产业生态兴盛开展，继续优化AI赋能，与同伴联结翻新推进人工智能走深向实，助力人工智能与各行各业深度融合，用弱小的算力撑持人工智能高品质的开展，为行业智能更新提供新动能。