华为、高通均推出边缘AI产品,有望推动AI大模型在边缘端落地,并验证了通过模型压缩+联网智能实现高性能边缘AI的可能性。此外存算一体+新型存储有望将边缘端功耗成数量级降低,有利于边缘AI发展。看好智能物联网模组厂商,以及存算一体芯片厂商。
▍华为、高通发力边缘AI,模型压缩+联网查询打破算力约束
据上海证券报,3月23日举行的华为春季旗舰新品发布会上,华为带来智慧搜图功能,基于多模态大模型技术,在手机端侧对模型进行小型化处理,实现了自然语言手机图库搜索体验。据华为常务董事余承东介绍,用户可使用自然语言在手机图库中搜索出匹配的照片。此外高通中国于3月2日发布全球首个运行在Android 手机上的Stable Diffusion 终端侧演示。华为与高通一定程度上验证了高性能边缘AI的可行性,并且表明通过模型压缩+联网智能的方式有望在边缘端实现AI大模型的体验。在华为与高通的示范效应下,我国智能物联网模组相关企业有望获得发展。
▍存算一体解决功耗问题,新型存储有望发展
功耗问题是边缘AI发展的一大约束条件,而根据智芯科微电子等公司统计,90%以上能量消耗来自数据搬运。为解决功耗问题,存算一体方案应运而生,免去了频繁的数据读写,直接在存储单元内完成数据计算,实现能效的数量级提升。特斯拉FSD芯片是边缘端存算一体芯片的典型代表。而新型存储如RRAM、MRAM、PCRAM等同时结合了高速随机读写、非易失、小面积等特性,更加适配存算一体需求。
华为、高通等企业推出边缘AI产品,验证边缘AI逻辑。为让大模型应用在边缘计算领域,算力与功耗两大瓶颈均需突破。算力不足的问题可通过模型压缩+联网方案进行解决,此领域里看好智能物联网模组相关企业。高功耗低能效问题可以通过存算一体方案得以解决,新型存储在存算一体芯片领域具备优势。
注意了!此内容只是我个人看法,仅为个人笔记,不是荐股,不构成任何投资建议,据此操作,风险自担。
多点赞