荣耀 MagicOS 9.0 升级支持 30 亿参数端侧大语言模型

荣耀 MagicOS 9.0 升级支持 30 亿参数端侧大语言模型

荣耀MagicOS 9.0升级支持30亿参数端侧大语言模型:功耗下降80%,内存占用减少1.6GB”。文章内容提到荣耀在今日正式发布了MagicOS 9.0操作系统,该系统被标榜为“行业首个搭载智能体的个人化全场景AI操作系统”。

在MagicOS 9.0中,荣耀的魔法大模型家族得到了升级,支持端云资源的灵活调配和不同设备的灵活部署。新系统包括以下几个版本的大模型:

  • 500万参数的图像大模型,端侧部署,全系列支持。
  • 4000万参数的图像大模型,端侧部署,中高端系列支持。
  • 30亿参数的大语言模型,端侧部署,中高端系列支持。
  • 10亿参数的多模态大模型,端侧部署,中高端系列支持。
  • 1500万参数的语音大模型,端侧部署,全系列支持。

荣耀表示,与MagicOS 8.0中的70亿参数魔法大模型相比,MagicOS 9.0升级支持的30亿参数端侧大语言模型在加载速度上提升了77%,在出词速度上提升了500%,功耗下降了80%。此外,新版大模型的内存占用减少了1.6GB,存储占用减少了1.8GB。

来源:IT之家【阅读原文】

© 版权声明

相关文章