端侧AI起飞，芯片行业的红利来了
两年前，ChatGPT点燃了全球生成式AI技术研发热潮，端侧AI应运而生。近两个月以来，DeepSeek以开源之姿，再次在全球人工智能领域掀起一股AI新潮。在AI大潮的诸多“弄潮儿”中，端侧AI率先冲刺，助推AI应用进一步落地。
就在端侧AI发展黄金期到来之际，作为硬件基础的芯片，通过算力优化和场景适配(pèi)成(chéng)为(wèi)其中的核心驱动力；与此同时，率先布局的相关企业将有望吃到端侧AI爆发的第一波红利。
苹果M3 Ultra机型可为大语(yǔ)言(yán)模(mó)型(xíng)导(dǎo)入(rù)庞(páng)大(dà)数(shù)据(jù)集
端(duān)侧(cè)AI奏(zòu)响(xiǎng)“集结(jié)号(hào)”
近(jìn)期(qī)，端(duān)侧(cè)AI在(zài)多(duō)领(lǐng)域落(luò)地(de)的(de)动(dòng)作(zuò)不(bù)断(duàn)。消(xiāo)费(fèi)电(diàn)子(zi)领(lǐng)域，联(lián)想(xiǎng)于(yú)2月(yuè)25日(rì)发(fā)布(bù)其(qí)AI PC新(xīn)品(pǐn)YOGA 2025系(xì)列(liè)，本(běn)地(de)部(bù)署(shǔ)DeepSeek-7B，成(chéng)为(wèi)全球(qiú)首(shǒu)家(jiā)在(zài)终(zhōng)端(duān)设(shè)备(bèi)上(shàng)部(bù)署(shǔ)此(cǐ)规(guī)模(mó)大(dà)模(mó)型(xíng)的(de)厂(chǎng)商(shāng)。3月(yuè)5日(rì)，苹(píng)果(guǒ)时(shí)隔(gé)两(liǎng)年(nián)重(zhòng)磅(bàng)更(gèng)新(xīn)的(de)Mac Studio配(pèi)备(bèi)了(le)全新(xīn)M3 Ultra和(hé)M4 Max芯(xīn)片(piàn)两(liǎng)个(gè)版(bǎn)本(běn)，苹(píng)果(guǒ)宣(xuān)称(chēng) M3 Ultra 版(bǎn)本(běn) Mac Studio 支(zhī)持(chí)本(běn)地(de)部(bù)署(shǔ) 6000亿(yì)参(cān)数(shù)的(de)AI大(dà)模(mó)型(xíng)运(yùn)行(xíng)。此(cǐ)外(wài)，近(jìn)日(rì)华(huá)为(wèi)的(de)AI PC也(yě)传(chuán)出(chū)新(xīn)消(xiāo)息(xi)，预(yù)计(jì)其自研商用AI笔记本将在四月发布，除了搭载全面集成的DeepSeek大模(mó)型(xíng)，其(qí)芯片及零部件或(huò)将(jiāng)实(shí)现(xiàn)全自(zì)研(yán)。
汽(qì)车(chē)领(lǐng)域，小(xiǎo)米(mǐ)SU7 Ultra于2月27日上市，雷军通过微博宣布Xiaomi HAD端到端全场景智驾开启全量推送，小米SU7 Ultra出厂即搭载该智驾系统。吉利在3月3日的AI智能科技发布会上宣布完成全域AI智能化布局，其中阶跃星辰提供通用大模型技术，与吉利联合开源多模态交互框架，实现文本、语音、图像数据的融合理解。此外，吉利自研的超级智算中心2.0，算力资源超越万卡，综合算力达到23.5EFLOPS。
事实上，除了上述高热度的领域，端侧AI还在涉及面更加广阔的IoT等领域加速落地。例如，今年2月，深思考人工智能在全球开发者大会上正式发布鸿蒙系统TinyDongni& deepseek超小端侧多模态大模型及硬件模组，并联合国产模组厂商推出两大解决方案，一方面为车载、机器人等场景提供实时AI处理能力，另一方面赋能工业检测、AI摄像头等高精度场景。深(shēn)思(sī)考(kǎo)创(chuàng)始(shǐ)人(rén)& CEO杨(yáng)志(zhì)明(míng)表(biǎo)示(shì)，超(chāo)小(xiǎo)端(duān)侧(cè)多(duō)模(mó)态(tài)大(dà)模(mó)型(xíng)及(jí)硬(yìng)件(jiàn)模(mó)组(zǔ)的(de)发(fā)布(bù)，不(bù)仅(jǐn)是(shì)技(jì)术(shù)的(de)突(tū)破(pò)，更(gèng)是(shì)端(duān)侧(cè)AI普(pǔ)惠(huì)化(huà)的(de)里(lǐ)程(chéng)碑(bēi)。未(wèi)来(lái)将(jiāng)持(chí)续(xù)优(yōu)化(huà)多(duō)模(mó)态(tài)交(jiāo)互(hù)能(néng)力(lì)，推(tuī)动(dòng)AI在(zài)医(yī)疗(liáo)、工(gōng)业(yè)、消(xiāo)费(fèi)等(děng)领(lǐng)域的(de)深(shēn)度(dù)应(yīng)用(yòng)。
“得(de)益(yì)于(yú)算(suàn)力(lì)与(yǔ)模(mó)型(xíng)优(yōu)化(huà)，端(duān)侧(cè)人(rén)工(gōng)智(zhì)能(néng)的(de)进(jìn)步(bù)速(sù)度(dù)将(jiāng)呈(chéng)现(xiàn)指(zhǐ)数(shù)级(jí)跃(yuè)升(shēng)。”联(lián)想(xiǎng)集团(tuán)董(dǒng)事(shì)长(zhǎng)兼(jiān)CEO 杨(yáng)元(yuán)庆(qìng)认(rèn)为(wèi)，两(liǎng)者(zhě)进(jìn)步(bù)的(de)叠(dié)加(jiā)效(xiào)应(yīng)有(yǒu)望(wàng)在(zài)未(wèi)来(lái)12个(gè)月(yuè)实(shí)现(xiàn)3倍(bèi)的(de)整(zhěng)体(tǐ)性(xìng)能(néng)提(tí)升(shēng)。
联(lián)想(xiǎng)三(sān)折(zhé)叠(dié)AI PC概(gài)念(niàn)机(jī)
高质量AI模型是普及关键
大模型纷纷部署于端侧之际，科技企业高调发力端侧AI,相关产品和应用纷纷上市。这背后的动作并不算新鲜，但根本动力却与以往大不相同。那么，端侧AI落地，时机是否已经成熟？
在AI百模大战的时代，焦点在云数据中心的集中式训练，但AI释放价值的关键更多在于推理。
“AI推理将从云端下沉到我们身边，无处不在。”Arm物联网事业部业务拓展副总裁(cái)马健告诉记(jì)者(zhě)解(jiě)释(shì)道(dào)，如(rú)果(guǒ)我(wǒ)们(men)生(shēng)活(huó)在(zài)连(lián)接(jiē)带(dài)宽(kuān)无(wú)限(xiàn)大(dà)、延(yán)时(shí)无(wú)限(xiàn)低(dī)、成(chéng)本(běn)接(jiē)近(jìn)零(líng)的(de)世(shì)界(jiè)，那(nà)么(me)AI部(bù)署(shǔ)在(zài)集中(zhōng)式(shì)数据中心是最有效的。但是这个假设并不成立，来自海量传感器、摄像头的视觉、声音等数据都回传到云端(duān)是(shì)不(bù)现(xiàn)实(shí)的(de)，尤(yóu)其(qí)是(shì)在(zài)对(duì)延(yán)时(shí)、隐(yǐn)私(sī)以(yǐ)及(jí)可(kě)靠(kào)性(xìng)有(yǒu)严(yán)格(gé)要(yào)求(qiú)的(de)场(chǎng)景(jǐng)，边(biān)缘(yuán)AI势(shì)在(zài)必(bì)行(xíng)。
以(yǐ)DeepSeek为(wèi)代(dài)表(biǎo)的(de)开(kāi)源(yuán)模(mó)型(xíng)，加(jiā)速(sù)了(le)AI从(cóng)云(yún)走(zǒu)向(xiàng)端(duān)的(de)进(jìn)程(chéng)，其(qí)带(dài)来(lái)的(de)影(yǐng)响(xiǎng)之(zhī)一(yī)就(jiù)是(shì)支(zhī)持(chí)边(biān)缘(yuán)设(shè)备(bèi)，使(shǐ)得(de)高(gāo)性(xìng)能(néng)AI应(yīng)用(yòng)能(néng)够(gòu)在(zài)边(biān)缘(yuán)设(shè)备(bèi)上(shàng)顺(shùn)利(lì)运(yùn)行(xíng)。达(dá)摩(mó)院(yuàn)首(shǒu)席(xí)科(kē)学(xué)家(jiā)、知(zhī)合(hé)计(jì)算(suàn)CEO孟(mèng)建(jiàn)熠(yì)指(zhǐ)出(chū)，大(dà)模(mó)型(xíng)在(zài)云(yún)端(duān)的(de)话(huà)，实(shí)施(shī)成(chéng)本(běn)比(bǐ)较(jiào)高(gāo)，只(zhǐ)有(yǒu)有(yǒu)限(xiàn)的(de)企(qǐ)业(yè)可(kě)能(néng)在(zài)部(bù)分(fēn)领(lǐng)域应(yīng)用(yòng)，而(ér)一(yī)旦(dàn)到(dào)了端侧，就有大量的应用都会发展起来。
从目前的一些趋势来看，终端AI模型的质量、性能和效率正在显著提高。为此，高通高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉（Durga Malladi）以及市场资深经理Jerry Chang在其博文中从以下四方面进行了总结。
首先，当前先进的AI小模型已具有卓越性能。模型蒸馏和新颖的AI网络架构等新技术能够在不影响质量的情况下简化开发流程，让新模型的表现超越一年前推出的仅能在云端运行的更大(dà)模(mó)型。其次，模型参数规模正在快速缩小。先进的量化和剪枝技术使开发者能够在不对准确性产生实质影响的情况下，缩小模型参数规模。第三，开发者能够在边缘侧打造更丰富的应用。高质量AI模型快速激增，意味着文本摘要、编程助手和实时翻译等特性在智能手机等终端上的普及，让AI能够支持跨边缘侧规模化部署的商用应用。第四，AI正在成为新的UI。个性化多模态AI智(zhì)能(néng)体将简化交互，高效地跨越各种应用完成任务。
搭载瑞芯微SOC芯片的桌面机器人可作为智能家居的主控中心
芯片是新周期核心驱动力
虽然DeepSeek等大模型通过技术革新降低了端侧AI的门槛，但不足以构成端侧AI起飞的充分条件。作为硬件基础的芯片，通过算力优化和场景适配成为端侧AI落地的核心驱动力。
对于硬件玩家来说，端侧形态各异的设备与丰富应用，蕴藏着巨大的市场空间。为此，相关芯片企业争相在端侧AI领域布局。
大模型、智能体在边缘侧的落地需要具备更高性能和能效的边缘计算平台。2月底，Arm发(fā)布(bù)新(xīn)一(yī)代(dài)边(biān)缘(yuán)AI计(jì)算平台Armv9，可运行超10亿参数的端侧AI模型。此外，Arm近日与阿里巴巴合作，通过 KleidiAI 与通义千问模型的集成，加速端侧多模态AI体验。多年前高通就已经为此做了准备。高通早在十五年前就开始在终端侧开展针对AI的研究，其AI引擎已迭代到第十代；去年3月推出AI HUB，帮助不同开发者优化模型，使其部署在不同平台上。
对于芯片企业而言，通过硬件创新推动端侧AI市场向上攀升的同时，也让自身吃到更多红利。以我国AIoT芯片领域的代表性企业瑞芯微为例，其在端侧AI方面可提供从0.2TOPs到6TOPs的不同算力水平的AIoT芯片。据悉，当前已有多个领域的客户基于瑞芯微主控芯片研发在端(duān)侧(cè)支(zhī)持(chí)AI大(dà)模(mó)型(xíng)的(de)新(xīn)硬(yìng)件(jiàn)，如(rú)教(jiào)育(yù)平(píng)板(bǎn)、AI 玩(wán)具(jù)、桌(zhuō)面(miàn)机(jī)器(qì)人(rén)、算(suàn)力(lì)终(zhōng)端(duān)、会(huì)议(yì)主机(jī)等(děng)产(chǎn)品(pǐn)。根(gēn)据(jù)瑞(ruì)芯(xīn)微(wēi)公(gōng)布(bù)的(de)2024年(nián)业(yè)绩(jī)预(yù)告(gào)，预(yù)计(jì)其2024年营收31亿元到31.5亿元，同比增长45.23%到47.57%；预计实现净利润5.5亿到6.3亿元，同比增长307.75%到367.06%。业绩增长背后，是AI技术快速发展、应用场景不断拓展对AIoT业务的带动。
业内人士向记者表示，端侧AI芯片的核心需求包括低功耗、高能效比和灵活适配多样化场景。伴随端侧AI发展黄金期的到来，芯片行业在推动AI应用普及的同时，将拥有更多成长机会。