华为的伟大运动！ Pangue 7B和72B混合专家模型开源

6月30日，华为正式宣布了来自Pangue Pro Moe的专家混合模型，具有70亿个参数和720亿个参数，以及具有基于Astheng的模型推理技术的Pangue密集Pangu开源模型。华为说，这项措施是实施上升生态策略，促进技术的大规模研究和创新发展的另一个重要措施，并加速了成千上万行业人工智能价值的应用和创造。其中，70亿pangu的参数密度模型是适用于资源限制场景的光线和高度精确的模型，例如边缘计算和终端设备。有效的任务，例如对自然语言的处理和图像的识别，从而为行业提供了灵活且低成本的解决方案。 PA Hybrid专家模型标准器的720亿个参数Pro MOE使用专家混合体系结构（MOE）分配通过动态路由机制进行计算机资源，该机制在维持模型量表的同时显着提高了推理的效率。当前，Pange Pro MOE 72B模型的权重和基本推理代码是在开源平台上启动的。同时，该开源不仅包括模型本身，而且还提供了基于Ascend AI的专用推理优化技术。华为表示，Astro还将在不久的将来发布MOE Ultra-Mandand模型的优化推理代码。新闻结束后，社区和开源行业被积极出版。该行业的一些专家将华为的开源操作分为一般影响。一方面，Mdense Odelos和70亿和720亿参数的混合专家模型的组合为不同大小的公司提供了灵活的技术选择。同时，基于ASDRD平台的详细优化使开发人员可以实施大型应用程序效率更高。预计这将促进我国行业生态系统的快速发展，并加强在全球人工智能竞争中发表讲话的权利。