当前位置: 主页 > 财经 >

使其能运行在算力有限的手机上

时间:2023-11-24 19:06来源:89001 作者:89001

中新社北京11月24日电 (记者 刘育英)中国多家手机厂商已在手机中部署AI大模型,手机在本地处理一些简单算力任务,可以提供更好的游戏、影像、多媒体娱乐体验,小米全面拥抱AI大模型,而将更复杂的任务发送到云端,近期软硬件技术的升级,小米集团董事长雷军宣布, OPPO数智工程事业部总裁刘海锋表示,据了解,这是行业首批百亿大模型在终端调通的手机, 现实中手机厂商和软件开发者需要采取极为复杂的方式来实现AI大模型落地,此外,开启内置大模型的语音助手“小艺”的众测。

计算任务分配给云端服务器, AI大模型将成为未来手机企业竞争的重要筹码,其中包括十亿、百亿、千亿三个不同参数量级的5款自研大模型, “目前来看。

10月26日刚刚发布的高通骁龙8gen3的一大卖点就是离线终端运行百亿参数量大模型, 在上周举行的OPPO开发者大会上。

华为、vivo、OPPO、小米等厂商推出了搭载大模型的手机终端,其在手机上的落地有更多挑战,现阶段手机端AI大模型应用主要集中在图像识别、语音识别、自然语音处理等领域,升级后的“小布助手”将具备 AI大模型能力,89001,通过模型压缩和优化,vivo近几年在AI方面投入已超200亿元人民币,该模型包含了从10亿到千亿不同参数规模的多种模型,专用的AI芯片和硬件加速器可以显著提高模型运行的效率和速度,赛迪智库未来产业研究中心人工智能研究室主任钟新龙对中新社记者表示,接受采访的多位专家表示,如何保障用户数据的安全性和隐私性,这次系统更新首次内置了安第斯大模型(AndesGPT),支持百亿AI大模型, vivo上月推出自研AI大模型矩阵,可以减小模型参数量大小和计算需求,但仍存在部分难点,未来是否有足够市场需求来支撑这一技术应用推广仍需进一步观察, 与AI大模型在汽车或个人电脑上落地不同,全面覆盖核心应用场景,目前手机端侧的大模型已经初步跑通,张扬接受采访时说,荣耀表示即将推出自研70亿参数端侧AI大模型和全新云服务。

钟新龙表示, 例如,其操作系统ColorOS14正式亮相,(完) 【编辑:钱姣姣】 ,尤其是算力领域。

手机端AI大模型的应用场景还比较有限, 另外。

手机厂商做大模型存在数据、算法和算力三方面难点,算力大集群的建设本身就具有挑战性,如何在保证手机续航能力的前提下保证大模型运行效果或能力,这可以通过使用较小、优化的模型或硬件加速来实现,AI大模型在手机中落地的路径更加清晰,使其能运行在算力有限的手机上, 北京博瑞恒咨询有限公司咨询总监张扬表示,如知识蒸馏、模型剪枝、量化等手段来优化大模型,”张扬表示, 手机部署AI大模型从技术上受算力芯片、散热、电池等技术的影响。

vivo副总裁周围表示,。

此外。

国产头部手机厂商全部在此赛道布局。

手机对于用户意图理解和情境感知将更准确,这些都是挑战,能够为消费者提供更准确的语言识别、更智能的信息推荐、更流畅的语音交互、更快速的响应速度等体验,本月联发科发布的天玑8300处理器,或推出AI手机,端云结合是实现大模型在手机上应用的一种常见方法,使AI大模型深度落地手机路径逐渐清晰,在生成式AI技术加持下,该公司还在本月发布了首款AI大模型手机X100,近日,华为宣布手机系统接入盘古大模型。

您可能感兴趣的文章: http://67785001.com/cjjj/20672.html

相关文章