端侧AI爆发，统一生态成关键，本土企业如何协同推动技术落地？

2024年，端侧AI迎来了前所未有的爆发期，业界普遍将这一年视为“端侧AI元年”。随着AI技术的不断成熟，AI产品已经渗透到我们生活的各个角落，从AI手机、AI PC到AI眼镜，乃至各类AIoT智能终端设备，都成为了科技圈热议的焦点。

根据Gartner的预测，到2025年，全球AI PC的出货量将超过1.14亿台，同比增长高达165.5%。与此同时，Canalys预计，到2025年，AI手机的渗透率将接近三分之一，出货量将接近4亿台。具身智能机器人和智能汽车领域的AI应用也在迅猛发展，推动了整个端侧AI市场的快速增长。

端侧AI的普及，不仅为消费者带来了全新的体验，还显著提升了AI功能的个性化和系统级集成度。根据研究人员的预测，端侧AI市场规模将在未来8年内增长到1436亿美元（约合人民币10400亿元），10年间将增长10倍。

在国内，AI市场同样呈现出百花齐放的态势。据艾瑞咨询测算，2023年国内AI产业规模已经超过2100亿元，端侧和边缘AI芯片的比重也在持续增长。大模型的底层技术革新为端侧AI产业带来了更多的增长空间。

作为国内AI领域的领军企业，安谋科技近期在上海举办了一场端侧AI生态研讨会，邀请了从芯片、大模型到终端，从硬件、软件、算法到生态的各路行业头部企业，共同探讨端侧AI的最新趋势和前沿观点。

安谋科技销售及商务执行副总裁徐亚涛指出，AI的发展必然是多样性的，每一类产品都面临着AI化的挑战，整个产业都在被AI重塑。跨行业的深度合作将成为未来AI发展的关键。

随着OpenAI发布Sora视频大模型，AI大模型的迭代速度进一步加快。从文本到图像、从多模态到视频，大模型的发展日新月异。端侧AI的落地，不再仅仅关注算力（TOPS），而是更加注重实际应用场景中的表现，如帧数性能（FPS）和生词速度（tokens）。

智源人工智能研究院副院长、总工程师林咏华表示，大模型的技术发展正聚焦于模态多样性、模型结构算法多样性以及生产部署的优化。大模型的发展呈现出“两极分化”的趋势：更强更大和更小更精。在端侧AI领域，小参数、多模态模型的能力快速提升，而旗舰设备的算力也已达到50-100 TOPS。

国内AI企业在AI大模型浪潮中一直走在全球前列，尤其是在端侧AI领域，本土AI新势力的发展潜力巨大。安谋科技市场及生态副总裁梁泉指出，模型与算力在端侧AI领域正在“双向奔赴”，小参数、多模态模型的能力快速提升，而旗舰设备的算力也在不断提升。

在端侧AI的元年，虽然尚无法确定其杀手级应用是什么，但本土AI新势力已经从技术军备竞赛走向场景化落地应用。从手机、PC到汽车，芯片创新为端侧AI落地提供了底层基础。紫光展锐执行副总裁兼市场部部长黄宇宁表示，端侧AI的发展正加速推进，包括硬件、软件、端侧大模型、端云协同与安全技术等领域的诸多新技术都在成熟中。

AI PC的发展也在助力Arm架构在PC市场的崛起。此芯科技生态战略总经理周杰介绍，生成式AI正在推动PC产业的第三次革命，此芯科技正通过异构算力赋能多场景端侧AI。

在模型侧，智源人工智能研究院、面壁智能和vivo等企业在大模型研究方面取得了显著进展。智源人工智能研究院通过Triton编译器打造了统一的软件层，支持Arm生态芯片，提高了开发效率和性能效率。面壁智能则推出了MiniCPM系列大模型，实现了“以小博大、高效低成本”的目标。vivo则通过自研的蓝心端侧大模型BlueLM-3B，在性能、功耗方面超越了原有模型，实现了云端大模型的大部分效果。

在芯片和大模型之间，推理框架层面的技术迭代也至关重要。阿里巴巴端侧AI技术专家邢世稳分享了MNN开源框架在端侧大模型部署方面的探索，MNN作为轻量级深度学习推理引擎，有效解决了模型在各类设备上高效部署运行的问题。

安谋科技在推动端侧AI生态建设方面发挥了重要作用。其不仅推出了自研NPU“周易”，还从异构计算的角度进一步加速了端侧AI的落地。在研讨会上，安谋科技牵头成立了“AIPC和EdgeAI联合实验室”，旨在联合产业多方共同构建本土AI生态，推动端侧AI技术的发展。

目前，已有多家企业正式加入该实验室，共同推动端侧AI技术的发展。安谋科技在连接Arm生态和国内市场、提供针对性的软硬生态协同解决方案方面发挥着不可替代的作用。