飞桨文心同行,海光DCU率先展开文心系列模型的深度技术合作
6月30日,文心4.5系列模型正式开源,涵盖激活参数规模分别为47B和3B的混合专家(MoE)模型(最大的模型总参数量为424B),以及0.3B的稠密参数模型。
在海光信息“深算智能”战略引领下,海光DCU率先展开文心4.5系列模型的深度技术合作,基于飞桨深度学习框架进行高效训练、推理和部署的适配工作。
文心4.5是百度自主研发的新一代原生多模态基础大模型,通过多个模态联合建模实现协同优化,多模态理解能力优秀;具备更精进的语言能力,理解、生成、逻辑、记忆能力全面提升,去幻觉、逻辑推理、代码能力显著提升。
依托GPGPU架构的生态优势,与编程开发软件栈DTK的领先特性,海光DCU支撑文心4.5预训练的模型FLOPs利用率(MFU)达47%,在多个文本和多模态基准测试中达到SOTA水平,充分验证海光DCU高通用性、高兼容度及自主可控的技术优势。(咸宁新闻网)
声明:本站作为信息内容发布平台,页面展示内容的目的在于传播更多信息,不代表本站立场;本站不提供金融投资服务,所提供的内容不构成投资建议。如您浏览本站或通过本站进入第三方网站进行金融投资行为,由此产生的财务损失,本站不承担任何经济和法律责任。 市场有风险,投资需谨慎。同时,如果您在中国发展网上发现归属您的文字、图片等创作作品被我们使用,表示我们在使用时未能联系到您获取授权,请与我们联系。
【本文资讯为广告信息,不代表本网立场】