H100的训练需求,这证明优化训练方式(也可视为成本降低)有助训练需求;另一个更显著的趋势是兴起了在本地端部署LLM的热潮。
2月6日,高通发布2025年第一财季的财报,高通的高管在财报会认为DeepSeek R1的推出是AI产业的一个转折点。AI大模型的预训练将在云端继续,推理将会向端侧迁移。AI将变得更小、更高效、更定制化,基于特定场景的AI大模型和AI应用将出现,AI的渗透率将变得更高。
在本地部署大模型的端侧AI浪潮已开启,在物联网领域,以高通、英特尔、海思、晶晨股份、瑞芯微、乐鑫科技、全志科技等芯片公司纷纷推出了AI SoC、嵌入式AI MCU等芯片,本文就国内、国际最新的端侧AI芯片进行汇总,看看哪些具备爆款潜力。
高通发布骁龙8 Elite和骁龙X平台,加速AI手机和超高的性价比AI PC落地
在AI技术的推动下,具备生成式AI技术的手机和PC,慢慢的变成了移动通信和移动办公新变革浪潮的推动器。在定义AI手机时,有几项核心硬件能力至关重要。对专用处理器,如ASIC、GPU以及其他零部件来优化,以高效运行端侧AI模型和应用。CES 2025上,在英特尔、高通、AMD的带动下,AI PC市场处理器正在快速演进,整体发展的新趋势以NPU算力增强、多芯片协同、能效比持续优化和软件生态优化为主要方向,以实现办公智能化和游戏体验升级为目标。
2024年10月22日,在高通骁龙技术峰会上,高通推出了骁龙8至尊版移动平台—骁龙8 Elite,骁龙8 Elite采用自研的Oryon CPU内核,骁龙8至尊版商用机在单线程和多线程基准测试中,实现了高达45%的大幅性能提升,能效提升也高达44%。这款芯片采用台积电3nm工艺,与第三代骁龙8相比,Oryon CPU在Chrome浏览器上的性能提升超过62%,在整个AndroidECO中处于领先地位。
高通公司高管表示,公司已在装有骁龙芯片的手机和电脑端适配了DeepSeek,高通将在端侧AI应用变化中受益。
高通的2025年第一财季财报显示,其营收为117亿美元,同比增长18%,每股净利润3.41美元,同比增长24%。需要我们来关注的是公司物联网业务收入在去年第四季度增长了36%,达到15.5亿美元。该业务包括用于工业用途的低功耗芯片、供应Meta头显Quest使用的芯片,以及Windows笔记本电脑的骁龙Elite芯片。
在CES2025展会上,英特尔发布了最新AI PC芯片产品,包括适用于“高性能轻薄”笔记本电脑的 Core Ultra 200H 芯片,以及适用于需要强大独立 GPU 的移动游戏玩家的 Core Ultra 200HX 芯片。
酷睿Ultra 200H系列处理器采用了多达8个英特尔Xe 核心的英特尔锐炫™显卡,其配备了为AI加速打造的英特尔矩阵引擎,与上一代H系列处理器相比游戏性能提升了高达22%;在整个平台上,全新处理器的GPU、CPU和NPU能带来高达99 TOPS的算力。
英特尔指出,第二代 Core Ultra 芯片组采用了“AI 优化架构,其中 CPU、GPU 和 NPU”协同工作,提供快速性能。该公司表示,这款移动处理器采用“新 CPU 架构”、下一代英特尔 Arc 显卡以及“更高容量的 NPU”,以帮助人们提升工作效率。另外,英特尔还在扩展其英特尔酷睿Ultra 200S系列台式机处理器,新增了12款65W和35W的产品。
作为国内领先的半导体设计企业,海思在端侧嵌入式AI持续发力。在2024年的AWE展会上,上海海思展出了“星闪IoT”、“A²MCU”两大生态解决方案。海思“A²MCU”聚焦新一代嵌入式AI控制MCU,它基于RiSC-V第二代指令集,创新性地推出了嵌入式AI,场景化核心算法、极简调度器三大特征,从指令集到编译器进行深度优化,帮助客户在家电场景实现绿色节能和智能化。
海思官网介绍,海思A² MCU目前包含了三款产品:Hi3065H是基于海思自研RISC-V内核的高性能实时控制专用MCU,主频达到200MHz;Hi3061H是海思针对电机控制设计的专用MCU;Hi3061M则是海思针对家电、工业等领域设计的超高的性价比MCU。
据悉,海思A² MCU在多个行业场景进行部署。比如在家电行业场景,海思新一代嵌入式AI MCU能轻松实现空调调温阶段节能16%。TCL最新发布的新一代智能空调—小蓝翼C7,搭载海思A² MCU,TCL小蓝翼C7新风空调在eAI加持下,可以在一定程度上完成房间0.3度以内的温度波动,A² MCU成功将嵌入式AI应用于小算力MCU平台,不仅在空调节能领域取得突破,也在洗衣机称重和OCB检测等多个场景中实现良好的效果。
海思以媒体SoC领域为中心,推出了鸿鹄TV系列,从高端的鸿鹄T900到实用的鸿鹄T300,以鸿鹄T900为例,它搭载海思V900X,4T NPU AI计算音画和双Vivid沉浸影音,4K/2K画质能刷到240Hz,整个TV解决方案采用星闪指向交互,为发烧友量身定做。
晶晨股份是国内多媒体SoC芯片设计行业领导者,公司产品覆盖机顶盒芯片、智能电视芯片、AI音视频芯片、Wi-Fi芯片和汽车电子芯片。近日,晶晨股份最新发布2024年业绩预告显示,该公司预计2024年实现净利润8.2亿元,同比增加3.22亿元,增幅为64.65%。晶晨股份透露,当前已有超过15款商用芯片携带公司自研的端侧AI算力单元。
在2024年新研发产品中,晶晨股份6nm芯片S905X5系列利用端侧AI能力,实现本地同声翻译、同声字幕等功能,提升消费的人在跨语言环境下的使用者真实的体验。这款芯片基于新一代ARMV9架构和自主研发的边缘AI能力,集成四个ARM Cortex-A55内核,提供强大的计算能力,支持高达2GHz的工作频率。
据介绍,6nm芯片商用半年以来实现原有客户导入顺利,并取得多个国际Top级运营商的订单,预计6nm芯片有望在2025年达成千万颗以上的销量。
瑞芯微专注于集成电路设计与研发,目前已发展为领先的物联网(IoT)及人工智能物联网(AIoT)处理器芯片企业。
据悉,瑞芯微能够为下游客户及生态伙伴提供从0.2TOPs到6TOPs的不同算力水平的AIoT芯片,其中RK3588、RK3576带有6TOPs NPU处理单元,能够支持端侧主流的0.5B到3B参数级别的模型部署,可通过大语言模型实现翻译、总结、问答等功能。
以旗舰芯片RK3588为例,该芯片采用ARM架构,使用先进的8nm制程工艺,集成了四核Cortex-A76和四核Cortex-A55(共8核),以及单独的NEON协处理器,支持8K视频编解码,提供了许多功能强大的嵌入式硬件引擎,为高端应用提供了极致的性能。这款芯片在智能座舱、智慧大屏、边缘计算、IPC、虚拟/增强现实、NVR、高端平板上都有落地应用。公告还显示,以RK3588、RK356X,RV11 系列为代表的各 AIoT 算力平台快速增长。
乐鑫科技在近期的机构调查与研究中提到,公司在去年12月联合推广豆包大模型落地。据了解,ESP32-S3是乐鑫科技第一款带端侧AI功能的AIoT芯片,公司表示这是AI应用相关的主力产品线,增速很快。
根据业绩预告,乐鑫科技预计2024年营业收入为19.85亿元-20.15亿元,同比增幅为39%-41%,净利润为3亿元-4亿元,同比增长120%-150%。
全志科技SoC芯片主要为智能终端产品提供多媒体编解码与算力的支持,应用于智能图像、智能语音交互等场景终端产品领域。2024年,在扫地机器人、智能投影等业务为代表的产品出货量明显提升,带动全志科技业绩提升。
全志科技在2023年推出了8核A55中高端智慧AI平台芯片T527,已经在商显、机器人、边缘网关、车载等细分行业大批出货,2024年推出了新一代12nm旗舰平台AI芯片A733和A736,其中A733已在平板市场广泛量产,A736也推向商显和行业智能领域。
据悉,全志科技在智能终端领域紧跟安卓最新生态的升级迭代,推出A523/A527 系列高性能八核架构计算平台,相关这类的产品已稳定量产,并获得了海内外众多终端平板品牌的认可和青睐。
光大证券研报提到,AI新浪潮未来将提升海量IoT设备的边缘算力需求,SOC在AI训练和推理层面都能实现部署与支持。DeepSeek的低成本、高性能、开源模式,有望推动国内AI端侧应用百花齐放,相关AI硬件需求量开始上涨将带动SOC芯片需求。
高通、英特尔、海思、瑞芯微、恒玄科技等纷纷推出AI SoC芯片,现在主攻方向上已出现分化,一部分主攻高性能SoC芯片,一些厂商推出低功耗SoC芯片,有望推动AI PC、智能家电、AI眼镜、AI玩具和机器人等端侧AI领域的应用爆发。
日前,山西省大同市中级人民法院审理席某某上诉案及所涉婚约财产纠纷上诉案的审判长接受记者正常采访:本案系不公开审理的案件,一审宣判后,鉴于网上存在大量不实信息,法院在法律规定范围内最大限度回应社会关切,澄清事实。
18日晚些时候,胡塞武装发表声明称,该组织当天向以色列在特拉维夫的军事目标以及位于红海和阿拉伯的美国航母编队发动了袭击。从17日晚到18日凌晨,美军对也门西部荷台达省的伊萨角港发动多次空袭。截至目前,已造成80人死亡,另有上百人受伤。
近日,世贸组织总干事恩戈齐·奥孔乔-伊维拉被问到有关美国和世贸组织关系的问题时,笑谈这是一个“五年来一次”的问题。记者:“(美国)共和党众议员提出动议,要求特朗普政府让美国退出世贸组织,美国现在还在“船上”吗?如果美国退出,世贸组织如何继续运作?
此次广交会,无论参展商还是境外采购商数量都再创新高。广交会是重要的外贸平台,中国“智造”正在通过这一个平台走向世界。这几天不少参展商拿下大订单,采购商们也采购到不少新产品。吕羽华,是一位来自马来西亚的采购商,中文讲得十分流利,这次他来广交会,关切中国数字技术的发展成果。
去年,“DRO-A/B卫星发射异常”的消息引发关注:2024年3月13日20时51分,我国在西昌卫星发射中心使用长征二号丙运载火箭/远征一号S上面级发射DRO-A/B卫星,运载火箭一二级飞行正常,上面级飞行异常,卫星未准确进入预定轨道。
玩具业是美国遭受关税冲击最严重的行业之一。美国有线电视新闻网(CNN)指出,对中国生产的玩具加征高额关税,意味着曾经物美价廉的玩具将变成“奢侈品”。美国商务部多个方面数据显示,2024年美国进口了价值177亿美元的玩具,其中75%来自中国。
当地时间4月18日,美国总统特朗普在白宫发表讲话,重申美联储主席鲍威尔应该降低利率。特朗普已连续两日就降息向鲍威尔施压。△鲍威尔在芝加哥经济俱乐部发表讲话美联储主席鲍威尔日前在芝加哥经济俱乐部发表讲话时,明确说不会因市场波动而采取紧急救市措施。
山西“订婚案”维持原判,被告获刑3年,审判长答问:处女膜未破裂影不影响罪的认定?#媒体精选计划
“女子伸腿阻止高铁关门”,官方通报:站台工作人员极力制止未果,有关部门已介入调查
全球首个机器人马拉松来了!机器人“小孩哥”太抢眼了,在比赛过程中,路边的小朋友都会忍不住给它加油打气(原创采访)
美国关税政策导致一些美国企业的成本大幅度的增加,一些小企业难以应对关税带来的冲击。在佛罗里达州,埃米莉·莱伊的小型文具公司正面临着十几年来最大的困境。埃米莉以未经国会讨论、滥施关税为由向特朗普等人提起了诉讼。埃米莉·莱伊在佛罗里达州的彭萨科拉经营一家小型文具公司已17年了。
读万卷书不如行万里路, 行万里路不如阅人无数, 阅人无数不如名师指路, 名师指路不如跟随成功者的脚步!