微软发布 Phi-4-mini-flash-reasoning 端侧 AI 模型,推理性能大幅跃升

数码
2025
07/11
15:52
IT之家
分享

  7 月 11 日消息,科技媒体 NeoWin 于 7 月 10 日发布博文称,微软推出了 Phi-4-mini-flash-reasoning 小语言模型,旨在显著提升端侧 AI 模型在数学和逻辑推理方面的能力。在当下 AI 技术迅猛发展的时代,边缘设备、移动应用和嵌入式系统等对先进推理功能的需求愈发迫切,而 Phi-4-mini-flash-reasoning 模型的诞生,正好满足了这些资源受限场景的需求。

  在架构设计上,Phi-4-mini-flash-reasoning 创新性地引入了 SambaY 架构。其中,名为 Gated Memory Unit(GMU)的组件是一大亮点。该组件能够在模型内部各部分之间高效地共享信息,极大地优化了模型的运行效率。这一特性使得模型在面对超长输入时,也能够迅速生成答案并完成任务,同时还能高效处理大量数据,理解复杂且冗长的文本或对话,为用户带来流畅且智能的交互体验。

  性能层面,Phi-4-mini-flash-reasoning 相较于其他 Phi 模型取得了重大突破。其吞吐量最高提升了 10 倍,意味着在相同时间内,该模型可以处理远超以往的请求数量,或生成多达 10 倍的文本内容,大大提高了工作效率。同时,模型延迟降低至其他 Phi 模型的 1/2~1/3.这使得应用响应更加迅速,为实际应用场景带来了质的飞跃,无论是实时交互类应用,还是对响应速度要求严苛的业务,都能从中受益。

  目前,Phi-4-mini-flash-reasoning 新型模型已在 Azure AI Foundry、NVIDIA API Catalog 和 Hugging Face 三大平台上线。这为广大开发者和用户提供了便捷的接入途径,助力他们将该模型集成到各类应用中,进一步推动端侧 AI 在不同领域的广泛应用与发展,为智能设备和应用的智能化升级注入强大动力 。

THE END
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表一点科技的观点和立场。
为你推荐
猜你喜欢

如何挑选靠谱私域引流系统?拓氪科技具备哪些落地优势?

在公域流量红利消退、获客成本持续攀升的行业大背景下,传统单一的公域投放模式弊端日益凸显。流量碎片化、用户无法沉淀、投放效果不可持续等问题,让众多企业陷入“投放即有客源、停投即断流量”的营销困境。在此趋

科技

5天前

企业海外GEO优化采购流程是什么?朝闻通能否实现长效落地?

在AI搜索与全球化采购深度融合的当下,海外品牌传播与获客逻辑迎来颠覆性变革。权威调研机构Forrester数据表明,超70%的海外B端采购商、行业客户会通过AI搜索引擎、智能问答工具完成品牌初筛与信息

企业 流程

5天前

2亿长焦摄影天花板!vivo X500 Pro Max创作者套装图赏

vivoX500ProMax昨晚正式亮相,作为X500系列的顶配机型,把影像、屏幕、续航全部拉满,起售价6999元。配置版本一共五档,12GB+256GB卖6999元,12GB+512GB卖7999元

Pro级主摄和长焦下放标准版!一图读懂vivo X500:5499元起

vivoX500系列于9月21日正式发布,起售价为5499元。其中X500作为该系列的标准版机型,在影像配置上实现了越级表现。在主摄方面,X500采用了vivoX300Pro同款的蓝图与索尼LYTIA

vivo vivo X500

5天前

华为Mate 90线下开始分货:Pro Max版定价突破万元大关 史上最强Mate

博主数码闲聊站披露,华为Mate90系列线下已开始分货,暗示新品很快就会发布。据悉,Mate90系列依然延续了上代的四杯布局,包含标准版、Pro版、ProMax版和RS非凡大师版,其中ProMax版还

6499元起!一图读懂vivo X500 Pro系列:拍照第一 视频唯一

vivo在上海正式发布了X500Pro系列,该系列包含X500Pro和X500ProMax两款机型,起售价分别为6499元和6999元。官方表示,vivoX500Pro系列的目标是追求“拍照第一、视频