端侧AI经过两年多的发展,大模型正向更轻量化方向演进 。当前 ,3B模型正逐步取代7B模型,成为端侧AI应用的主流选择。
在2025 vivo开发者大会上,vivo发布了专为端侧智能体打造的3B多模态推理大模型 ,该模型具备128K长上下文处理能力,极限出词速度超过每秒200个token。OpenAI也持续布局轻量化,不久前推出的轻量语音模型GPT-realtime-mini ,适用于移动端与边缘设备 。
展望未来,手机AI与操作系统的深度融合,将为用户打造高度“个人化 ”的服务体验。然而,实现这一愿景也对手机的算力、内存和功耗提出了更高要求。此外 ,端侧AI还需进一步融入日常刚性场景,并解决安全授权等行业标准不完善等问题 。
端侧大模型从7B走向3B
vivo AI全球研究院院长周围在接受《科创板日报》采访时表示,今年vivo重点聚焦于3B模型上进行各种多模态的实现和聚合。相较13B和7B模型 ,3B模型所占用的内存更少,对高端机性能影响更小。
“去年我们做了13B和7B端侧模型的实现,发现其实只有7B勉强能上线 ,但是7B模型在手机上跑得不太理想,因为占的内存比较大。直到今年发现3B端侧模型效果不错,我们把内存做到只占2G ,并大幅度增强推理能力,几乎可以用于做意图中控和任务拆解的中台 。”
除了3B模型外,vivo还在探索更低功耗的1B模型。“3B的模型在运行时要750毫安(功耗)。而端侧大模型对手机的应用远比我们想象要广得多 ,需要一个大模型24小时都在线,实现对本机的实时监测和记忆,这可以交给1B模型 。”
周围透露,vivo正在推动图像识别 、声音识别 ,包括同传、方言识别等全部端侧化,这对于手机内存提出了更高的要求。“端侧化有一个问题,就是平台的算力要够 ,内存配置要够,至少达到8G以上的配置。如果4G内存的中低端手机,用户可能用的是云端功能 ,而云端功能在某种意义上是要消耗大量的成本 。 ”
模型参数量与性能指标如何取得平衡?
一名手机业内人士表示,大模型落地到端侧,最关键的难点在于模型的参数量与性能指标之间的平衡。“手机端的硬件资源非常有限 ,包括芯片算力、内存都很有限。而手机的功耗也是非常重要的指标 。模型参数量越大,就意味着消耗的计算量越大,对功耗也就越高。”
“如何平衡模型效果与手机上的这些体验指标 ,是一大问题。如果把模型参数量选的非常大,那么计算量就很高,直接带来的问题是速度变慢,用户体验的延迟就会非常久 。另外 ,内存占用也会很大,比如7B模型的内存占用可能在 3-4GB 左右,这会导致系统的流畅性会受到一些影响 ,功耗随之升高,手机掉电非常快,发热也会变严重。”上述业内人士称。
《科创板日报》注意到 ,为了推动AI落地,苹果最新发布的iPhone 17系列的Air 、Pro、Pro Max三款机型升级至12GB,以实现更强大的端侧AI支持。
IDC中国研究经理郭天翔表示 ,手机厂商这几年已逐渐从最开始的7B端侧模型,转换到3B模型,原因就在于该量级的模型对算力的要求、功耗 、输出速度等可以获得更好的均衡 。
AI与操作系统逐步融合
除了vivo外 ,OPPO、荣耀等厂商也在积极推动端侧AI的落地。荣耀在今年7月发布的Magic V5是搭载了阿里通义大模型和飞猪旅行、高德地图等AI智能体手机。
周围认为,端侧AI的终局是Agent(智能体) 。vivo希望进一步深化AI和操作系统的融合,深度理解用户个人情景和偏好,创造“个人化 ”服务体验。
vivo AI产品总经理关岩冰透露 ,目前正在与高德、百度 、支付宝、飞猪等互联网企业在智能体方面开展合作,未来一个月原系统 6(OriginOS 6)会有大量智能体逐步上线。
不过,智能体在安全授权方面仍存在权责界定不清的问题 ,尤其在用户隐私保护、数据使用规范以及权限边界划分等方面尚缺乏明确标准,相关行业规范仍有待逐步建立与完善 。
“当智能体,特别是手机智能体要做任务的时候 ,如果只做厂商自己的功能和应用,比如说秀一下是否流畅 、调一下亮度、连接一下Wi-Fi。都没有问题,但是想跨应用 ,那么安全授权的标准仍有待探讨。我们作为终端厂商,也在积极推动行业标准的建立 。”周围说。
此外,关岩冰也坦言 ,智能体在响应用户需求方面,尚未能有效解决用户的实际问题。“我们正将资源和精力集中于为用户解决问题的场景上,并持续加大投入 。”
郭天翔认为,端侧模型的应用将主要通过Agent来体现 ,但是对于消费者来说使用感知依然不是特别明确,并没有完全融入到日常的刚性使用场景中。他表示,未来手机AI 将与 OS完全融合 ,由一个经过训练的个性化的私人Agent作为手机使用者的助手,可以给使用者主动提出建议,执行多重复杂任务。
(文章来源:科创板日报)
今日配资:股票适合买什么手机-北京市首个6G专项政策发布 推动融合具身智能、空天等领域 产业标准制定元年开启
用什么手机炒股票好:股票配资链接-存储巨头传来重磅 参股公司曝光(附名单)
手机上怎么买卖股票:配资专业炒股投资-见证历史!英伟达盘中成为全球首家市值4万亿美元的公司
股票:配资公司首选加杠网-天永智能(603895.SH):公司控股股东茗嘉投资累计质押1679万股,占公司总股本15.45%
哪种手机股票软件好用:股票哪里开户手续费少点-华为任命余承东为产品投资评审委员会主任 核心任务“打赢AI关键战役”
买一家公司股票多久能得到分红:炒股票手机app软件-中信证券:海外AI催化密集 看好商业化潜力
券商股票行情:手机看股票用什么软件好-证监会:坚决拥护党中央对易会满进行纪律审查和监察调查的决定 全方位完善公权力监督制约机制
翔云优配-翔云优配官网-杠杆配资哪家好提示:文章来自网络,不代表本站观点。
翔云优配-翔云优配官网-杠杆配资哪家好㉖股票配资平台以高效、便捷、安全为服务宗旨,为客户提供全方位的配资服务支持。
2025年3月7日,A500ETF(159339.SZ)收跌0.31%,主力资金(单笔成交额100万元以上...
...
国家卫健委主任雷海潮在参加十四届全国人大三次会议江苏代表团开放团组会议时指出,人口问题仍是一个需要深入和动态研究的重要问...
2025年3月4日至5日,中国人民银行副行长陆磊与哈萨克斯坦国家银行副行长莫尔达别科娃共同主持了中哈合作委员会金融合作分...
界面新闻记者|吕文琦“未来将持续坚定发展长期分红险,做分红险坚定的推动者。”日前,首次在媒体前亮相的中邮人寿...
界面新闻记者|邹文榕政策引导叠加企业融资需求旺盛,界面新闻记者关注到,开年以来,产业债一级市场发行量较往年明...
文丨财联社今日晚间,中芯国际发布半年报。上半年,公司实现营收213.2亿元,同比下降13.31%...
界面新闻记者|陈慧东水晶光电(002273.SZ)抛出一则3亿元现金买董事长等联合实控公司的预案。...
界面新闻记者|王颖界面新闻编辑|张一诺...
实习记者|章宇璠记者|张一诺2024年,巴菲特连续四年《福布斯》位居美国最慷慨的25位亿...
界面新闻记者|郭净净华为前高管创业的思格新能源(上海)股份有限公司(简称“思格新能源”)近日正式递交港交所主...
作者陈之琰、刘旌 暗涌Waves1. 人性的凸透镜2016年8月末的一天,英国伦敦希尔顿逸林...
近期,SOHO中国与黑石集团的交易传闻在市场上发酵。当时消息称SOHO中国有意出售位于北京、上海的核心商业物业,交易对价...
作者:ACE1.对于中国的互联网大亨来说,刚刚过去的2021年,是被载入史册的一年。只不过,载入...
记者辛圆国家统计局周日发布数据显示,2月,中国消费者价格指数(CPI)同比下降0.7%,上月为上涨0....