7月5日下午,Pangue Pro Moe技术开发团队今天发表了一份声明,称它已经注意到了有关Great Pangu模型的开源代码的最新讨论。 Pangue Pro Moe的开源模型是由Ascend硬件平台开发和培训的绝佳基本模型。它不是基于其他制造商模型的增量培训。它提供了重要的创新,例如建筑设计和技术特征。这是世界上第一个混合专家模型,其规格与Ascend硬件平台设计相同。创新的是,我们建议创新的混合专家模型(MOGE)的体系结构有效解决大型分布式培训中的负载问题并提高培训效率。 声明表明,Modelo Pangue Pro Moe开源的基本组件的代码实施是行业中的开源实践,包括S其他开源模型的一些开源代码严格遵循开源许可的要求,并清楚地将开源代码文件的开源代码代码声明为版权声明。 最近在Github发表的一项研究引起了该行业的激烈辩论。这项研究的作者认为,由华为和Tongyi Qianwen-2.5 14B模型推出的Pangue Pro MOE模型由阿里巴巴发布,其模型具有“出人意料的一致性”。通过经验比较,作者发现,注意参数分布中Pangue Pro MOE模型与QWEN-2.5 14B模型之间的平均相关性为0.927,远远超出了其他模型之间正常比较的范围。互联网用户相信这可能意味着Pange Pro Moe具有窃。 Pangu模式小组在Github做出了回应,否认了窃的指控,并根据报道认为作者的评估离子方法不是科学的。 官方NINA Finance帐户 24-最新财务信息和视频的位移