108
| 聚沙成塔，同舟共济
应用爆发、终端牵引，是近两年国内芯片产业迈向高质量发展的呼吁与共识。外部复杂环境，消费电子市场疲软，这些都在考验着终端产业的韧性，更深刻影响着上游的芯片行业。
进入2024年，终端市场崭露复苏迹象，根源在于AI技术，尤其是生成式AI在终端应用上开创了新局面。AI手机、AI PC、智能汽车、具身智能、智能家居、智能穿戴等，生成式AI正在为终端市场乃至芯片产业注入新的活力。
中国拥有丰富多样的终端品牌，是全球最大的半导体应用市场。在端侧AI时代下，国内众多芯片企业相继重兵投入，先发优势已然显现。但半导体行业分工细，产业链环节多，如何让半导体产业在AI上的资源“聚沙成塔”，发挥1+1＞2的效果？成为目前事关端侧AI产业高质量发展和企业商业化前景的重中之重。
日前，芯谋研究出席了由安谋科技主办的端侧AI生态研讨会，期间众多先锋企业高管和资深技术专家云集，覆盖了芯片、OEM/ODM、大模型、AI解决方案等国内AI产业全链路，现场深入探讨产业技术趋势与落地案例，或许为上述设问提供了新的解题思路。
终端AI时代已开启，Arm架构正持续引领
算法、数据和算力是驱动AI技术发展的三驾马车。2007年之前，AI技术处于起步阶段，受限于算法和数据量，对芯片算力的需求并不迫切，通用CPU芯片尚且可满足需求。而后的十几年，随着互联网的普及，数据量喷涌，算法百家争鸣，代表算力的芯片产业，也随之演进，从GPU到专用AI芯片，再到当下的多元异构计算方案。
2023年以来，生成式AI引爆行业，开启了AI在应用上的新篇，也为AI在终端上的全面渗透带来机遇。未来十年，大模型将牵引AI，从数字世界走向物理世界，在手机、PC、智能汽车、机器人等智能终端落地，全面开启大模型的端侧AI时代。据Counterpoint预测，生成式AI手机渗透率有望从2023年的不到1%增长至2027年的43%。其次是AI PC，Canalys预测2024年AI PC渗透率约19%，到2027年渗透率将超60%。穿戴设备、医药、高端制造等行业也开始积极采用AI技术。
算法更多样、迭代更快速，然而在生产部署上大模型还面临着模型压缩、修正与对齐的挑战，这是算法与场景结合上的典型表现。本次研讨会现场，据智源人工智能研究院副院长兼总工程师林咏华分享，大模型领域已经呈现明显的两极分化，数百亿级以上的强大稠密模型，或10B以下的小模型更受欢迎。即模型要么更强更大，要么更小更精。越来越多的小模型被发布和下载，10B以下的小模型成为现在整个开源社区下载量的主力。
端侧AI的一大亮点是本地计算，数据避免了上传云端，降低了通信带宽，但对隐私保护和低延迟要求更高。这意味着在作为计算底层支持的芯片，在架构上要更快速、灵活地适配各种AI模型，应对带宽、存储的新挑战，同时还要满足终端产品低功耗、安全性、轻量化的市场要求。
在芯片架构上，Arm架构由于高性能、低功耗的特性，被终端芯片厂商广泛认可，超过99%的智能手机建立在Arm架构基础上。即便是在PC领域，近年来Arm架构也凭借生态企业闯出一片天地，高通与微软合作使Windows系统开始支持高通开发的Arm架构处理器，基于Arm架构的PC市占率连年攀升。
而在端侧AI时代，对于芯片侧的要求更多聚焦于算力、内存、功耗、工艺、面积、散热等关键词上，如何在这些核心要素之间寻找最佳平衡点，成为AI芯片技术突破的关键。得益于完善的硬件IP产品、通用且应用广泛的软件生态和平台级的解决方案，Arm架构正持续为AI在云侧和端侧的落地提供计算基础，这意味着端侧AI芯片的创新，有望延续Arm技术生态在终端和嵌入式设备的技术积累和生态优势。
国内终端AI产业进展，模型和算力“双向奔赴”
终端AI体量最大，最贴近消费者即最贴近应用端的就是智能手机。作为终端代表，手机厂商也在积极拥抱终端AI时代的到来。2023年国内手机厂商vivo发布了自研的蓝心大模型BlueM-3B，成为国内第一个发布大模型的手机厂商。据vivo AI规划高级总监孟祥育表示，3B数据量大小的模型即可达到云端70B 80%以上的效果，并预测未来手机峰值算力将突破100TOPS，而目前大模型架构对算力利用率在10%～20%。针对大模型架构进行算力优化，提升利用率刻不容缓。
国内模型明星公司面壁智能发布的MiniCPM 3.0，以其4B参数量在性能上逼近GPT-3.5水平, 在端侧部署上实现了技术突破，其旗舰多模态产品将在端侧全面对标GPT-4V，让端侧实时视频理解、长图难图文本精准识别成为可能。
另一方面，我们也看到诸多芯片企业正在加速针对端侧AI的算力革新，以应对当下终端智能化跃迁的产业需求。从芯片上游的IP领域来看，安谋科技作为国内该领域的头部企业，基于自身的本土创新能力，在成立之初便推出了“周易”自研NPU，其正在研发的最新一代“周易”NPU针对Transformer算法，从软硬协同角度进行优化，在功耗、面积、性能方面进一步提升优势，并已成功与国内外多款主流大模型完成兼容适配，赋能高性能AI计算。此外，安谋科技自研IP还可以与Arm通用IP组成异构计算平台，进一步满足AI计算任务对于多元算力的需求，以加速端侧AI的落地。
而在芯片设计领域，作为安谋科技异构计算平台的最新实例成果，此芯科技的首款AI PC芯片“此芯P1”异构集成了“周易”NPU以及Arm架构CPU、GPU等，通过将各个计算单元应用在不同应用负载中，实现端侧AI的高能效异构计算。此芯科技还推出了AI PC开发套件新品Radxa Orion 06，搭载了“此芯P1”高能效Armv9处理器，可以基于异构算力支持主流端侧生成式AI大模型和传统CNN模型。
国内头部手机芯片厂商紫光展锐则基于Arm架构和生态，搭建起CPU、GPU、NPU以及整合的SoC底层算力平台，覆盖全场景通用AI算力（端侧AI智能体）、多媒体专用AI算力和低功耗轻量AI算力等三大AI典型场景。让AI手机能理解机主需求并主动服务，完成整理会议纪要、提供邮件回复建议等个性化服务。
在端侧AI中，CPU、GPU、NPU、VPU等多种算力单元的异构计算，可以更充分地利用端侧算力，是端侧AI设备部署大模型的最优解。然而,一方面我们看到的是基于端侧AI所蕴含的产业机遇的共识，终端设备和算力厂商，与下游的模型厂商正在相向而行，双向奔赴。另一方面，则是多元异构的AI算力却面临着巨大的技术挑战，生态割裂与适配困难尤为突出。各厂商私有的、碎片化的软件生态已经成为用户尝试其他硬件时的最大障碍。芯片厂商在追赶AI算法和快速演进的AI技术方面存在着明显差距，软件系统的迁移工作也给开发者带来巨大的工作量以及高额的迁移代价。
对齐需求，打通端口，高效研发与迭代，快速推动终端AI产业向前发展，是产业当务之急。在本次活动上，“AIPC和EdgeAI联合实验室”正式揭牌。这是一个由安谋科技牵头、联合产业多方的人工智能平台，囊括了IP和SoC芯片设计、OEM/ODM制造、操作系统/BIOS、AI大模型、AI应用等产业全链路企业，专注于国内本土AI生态建设、社区发展以及技术运营。
当前，大模型在AIPC、AI手机、机器人等端侧计算场景快速演进，亟待整个产业链协力共建产业生态。据介绍，该联合实验室的成立正是为了解决当前产业链所面临的共性问题，加速端侧AI在跨领域场景中的创新落地。后续，该联合实验室将从硬件和芯片、软件和算法、社区运营等层面全面发力，携手包括芯片合作伙伴在内的端侧AI生态伙伴，对接Arm全球生态，打造中国本土兼容的AI生态系统，通过增强对AI市场的直接影响力，积极探索并推动实际AI应用的落地。
据公开消息显示，目前已有智源人工智能研究院、紫光展锐、爱芯元智、六联智能、系微软件、此芯科技、亿道数码、辉羲智能、面壁智能、零一万物、中科加禾、瑞莎计算机等十几家单位作为首批发起成员正式加入该联合实验室，覆盖国内AI产业全链路。不难看出，由安谋科技牵头组局的本土端侧AI生态在成立伊始既已颇具规模。
值得一提的是，该联合实验室由漕河泾开发区管理公司提供产业支撑。作为上海科创中心重要承载区，漕河泾开发区目前已有上万家企业进驻，其人工智能产业生态集聚，应用场景丰富，将为AIPC和EdgeAI联合实验室的发展提供创新沃土。
政策规划提供宏观指引，生态协同加速“AI+”发展
根据中国互联网络信息中心发布的《生成式人工智能应用发展报告（2024）》，截至2024年6月，我国生成式AI产品用户规模已达2.3亿人，备案产品超过309个，AI核心产业规模接近6000亿元，相关企业超过4500家。产业链覆盖芯片、算法、数据、平台、应用等关键环节，AI产业蓬勃发展。
今年政府工作报告首次强调“人工智能+”，标志着人工智能与实体经济的深度融合被提升至国家战略层面。四部门联合发布的《国家人工智能产业综合标准化体系建设指南（2024版）》进一步明确了AI产业的发展方向，旨在推动产业高质量发展。
在应用端，软件工具正逐步整合生产式AI功能。相信在2025年，AI将更深入地融入人们的日常生活，AI终端将无处不在，覆盖衣食住行，极大提升生活质量和效率。随着5G、物联网和边缘计算的普及，端侧AI的应用空间将进一步扩大，为终端设备带来新一轮的创新周期。芯片产业作为AI的底层硬件，应把握这一时机，加速技术创新和产品升级。
芯片和AI产业的发展早已超越国界，形成了全球性的市场和产业链。为了在终端市场获得持久的竞争优势，芯片和AI产业必须积极融入全球生态，通过国际合作与竞争，实现技术、资本和市场的深度融合。终端AI呼唤着终端芯片的迭代与创新，这是芯片产业前所未有的机遇。
作为底层架构与生态的技术基石，Arm架构是整个终端生态的根系之源，安谋科技是国内芯片产业接轨全球标准的关键纽带。相信借助安谋科技这一生态窗口，凭借国产终端市场与AI产业先发优势，国产终端AI芯片会实现弯道超车，在生成式AI与终端设备的蝶变浪潮中占据有利身位。
结语
国内产业链完整、市场规模庞大，加之应用侧的多元化发展和终端侧的同步创新，是本土产业链在全球AI产业中的显著优势。这些优势不仅推动了国内产业的快速发展，也为国际合作提供了坚实的基础。
在芯片和AI产业的共同促进下，通过紧密合作和资源共享，国内产业链正在快速成长与强大。在安谋科技等生态型企业的牵引下，AI PC和边缘智能等产业生态的创新发展，将为端侧AI产业协同创新树立良好典范。随着芯片、AI以及终端产业通过共建生态，协同发力，相信本土芯片产业将借助端侧AI的创新力量，把握技术变革带来的产业机遇，释放广阔的增长潜力。
