“荣耀MagicOS 9.0升级支持30亿参数端侧大语言模型:功耗下降80%,内存占用减少1.6GB”。文章内容提到荣耀在今日正式发布了MagicOS 9.0操作系统,该系统被标榜为“行业首个搭载智能体的个人化全场景AI操作系统”。
在MagicOS 9.0中,荣耀的魔法大模型家族得到了升级,支持端云资源的灵活调配和不同设备的灵活部署。新系统包括以下几个版本的大模型:
- 500万参数的图像大模型,端侧部署,全系列支持。
- 4000万参数的图像大模型,端侧部署,中高端系列支持。
- 30亿参数的大语言模型,端侧部署,中高端系列支持。
- 10亿参数的多模态大模型,端侧部署,中高端系列支持。
- 1500万参数的语音大模型,端侧部署,全系列支持。
荣耀表示,与MagicOS 8.0中的70亿参数魔法大模型相比,MagicOS 9.0升级支持的30亿参数端侧大语言模型在加载速度上提升了77%,在出词速度上提升了500%,功耗下降了80%。此外,新版大模型的内存占用减少了1.6GB,存储占用减少了1.8GB。
来源:IT之家【阅读原文】
© 版权声明
文章版权归作者所有,未经允许请勿转载。