高通第六代骁龙8至尊版集成全新NPU:专为AI智能体打造
高通在其官网介绍了全新一代NPU,即Hexagon NPU,这款NPU专为下一代AI智能体打造。
据悉,高通第六代骁龙8至尊版系列引入了全新的Hexagon NPU和两项关键特性,包括全新Element Accelerator和更大的共享内存系统。
Element Accelerator专为赋能当今生成式AI和智能体AI的Transformer工作负载而打造。结合向量计算单元和标量计算单元,它能够加速大模型中最关键的运算,帮助智能体更快地响应、更高效地推理,并在保证移动端能效的前提下,提供更丰富的体验。
同样重要的是,Hexagon NPU大幅扩展了大容量共享内存。通过让多模型状态、上下文信息和KV-cache数据存储在更靠近加速器的位置,该平台能够缓解内存瓶颈,让智能体在处理更长上下文、调用更多工具以及执行更多并发任务时,始终保持流畅响应。
上述技术创新共同定义了新一代Hexagon NPU的角色,即直接在终端侧运行更多智能体AI体验。
Element Accelerator、向量与标量扩展单元和更大的共享内存,组成一套协同架构,助力NPU加速Transformer工作负载、处理控制逻辑复杂的智能体任务.
并将更多上下文数据保留在靠近计算单元的位置。值得注意的是,Hexagon NPU同样面向下一代模型架构而打造。
高通表示,公司正与领先的内存和模型厂商合作,引入混合专家模型(Mixture-of-Experts,MoE)构建新一代终端侧AI架构。这意味着一个300亿参数的MoE模型在保持数百亿参数可用的同时,在NPU上每次生成一个词元仅需激活约30亿个被路由选中的参数。
与每次推理都需要更大部分网络参与的密集模型不同,MoE会根据输入动态选择专用专家网络,从而减少实际计算负载和内存带宽需求。
结合智能的专家模块闪存到内存加载管理机制与缓存技术,这种方法能够以低功耗和低内存需求的方式实现更大模型级别的AI体验,为智能手机带来响应迅速且注重隐私保护的生成式AI。
混合专家模型通过选择性激活专用专家网络,能够提升效率和质量,无需每次请求都调用整个模型。

小米澎湃OS 4全球测试正式启动:小米17 Ultra等3款首批尝鲜
日前,小米在海外宣布,澎湃OS4全球测试正式开启,目前首批机型已开放招募。首批支持机型共有3款,分别为小米17Ultra、LeicaLeitzphonepoweredbyXiaomi以及小米17,仅面
iQOO 16外观正式亮相:机械臂串联三颗镜头 科幻感拉满
今日,iQOO手机正式公布iQOO16外观设计。新机采用全新“明日舷窗”设计,透明玻璃下由机械臂结构串联三颗镜头,并悬浮在六边形科技纹理之上,搭配逐光配色,整体呈现较强的未来科技感,辨识度很高。数码博
1天销量超18万台!华为阔直板新机卖爆 1TB版被抢完:想要付定金排队
华为方面肯定早就预判到的市场表现不会差,但新品开售之后热度一路走高、卖得如此火爆的态势,估计还是远远超出了他们最初的内部预期(入门版定价被用户直言良心)。9月10日这款全新形态的华为“阔直板”手机正式
15分钟前
iPhone 17官方涨价 苹果却在中国线下降价:256GB版本便宜1300元
昨天苹果秋季新品发布会结束之后,官方第一时间就对多款在售老机型做出了涨价调整,不过不少业内人士都指出,这波官方调价看起来声势不小,大概率只是苹果做出来的表面姿态,实际市场定价的话语权根本没有体现在官方
2199元起 OPPO A7 Pro开售:8000mAh大电池 七年耐用+满级防水
今日,OPPOA7Pro正式开售,提供6GB+256GB、8GB+256GB两种存储版本,售价分别为2199元和2499元。OPPOA7Pro提供乘风破浪、步步生花、大漠棕三款配色,正面配备6.57英
28分钟前
苹果折叠机iPhone Duo不支持实体SIM卡 海外版本带回国内没法使用
苹果新一代iPhone产品正式发布,其中包括苹果首款折叠屏手机iPhoneDuo。不过,iPhoneDuo与去年推出的iPhoneAir一样,不支持实体SIM卡,仅支持eSIM。eSIM即嵌入式SIM
31分钟前






