一、AI算力将在边端云端灵活分配

边缘计算在万物互联场景中至关重要

边缘计算是一种分布式计算架构，将数据处理能力和应用程序部署在更接近数据源的位置，以提高响应性，增强安全性和保护用户隐私。 所谓边缘，一般包括：设备边缘和云边缘。设备边缘：一般包括直接的终端设备以及一些异构加速卡、边缘网关等设备。 云边缘：一般是在设备边缘和中心云之间，比如就近部署的边缘云节点/边缘IDC。 万物互联场景中，云端处理存在时延较长、成本较高、涉及数据隐私等问题，引入边缘计算至关重要。

边缘AI将与云端AI相互补充

边缘AI将AI能力引入到边缘计算场景。 相较于云端集中的AI资源池运算，边缘AI具有实时响应、增加隐私性、持续改进等优势。 边缘AI与云端集中的AI是相互补充、相互关联的关系，而非替代关系。

AI算力预计将灵活分配

我们认为AI算力将综合考虑硬件能力、成本等因素，在边端和云端灵活分配，简单涵盖： 边端AI小模型场景：本地跑一些语音识别、图像识别等算法复杂度比较低、对算力要求比较小的AI模型，同时也可以通过API调用云端AI算力/应用来实现更加丰富的AI功能。边端AI大模型场景：直接在边缘侧运行AI大模型。这类场景我们认为可能会率先在手机、PC、智能驾驶、具身智能、元宇宙、工业控制等自身具备一定算力基础的场景落地。

二、大模型向边缘端渗透初见端倪

大模型在边缘端渗透的条件：模型压缩+算力提升

大模型向边缘端渗透，需要算法、硬件协同优化，模型压缩和边缘侧计算性能提升是两大关键。 模型压缩：比如GPT-175B 模型约有 1750 亿参数，以半精度（FP16）格式计算，至少占 320GB存储空间。模型压缩是大模型向边缘渗透的其中一个重要条件。计算性能提升：包括算力、显存、功耗等多方面的硬件综合能力。目前在这两个方向上，我们都可以看到不错的进展预期，大模型在边缘端渗透初见端倪。

算力提升：包括算力、显存、功耗等多维度

算力：Transformer模型更加依赖大算力的支撑。参考壁仞科技数据，对于40个字的文本序列，进行一次Bert推理需要7Gflops，由中文翻译到英文的Seq2Seq模型需要 20 Gflops。标准版BERT模型参数量是3.4 亿个参数。 显存：以一个100亿参数模型，FP16精度为例，参数量需要20GB内存（10B*2Bytes），梯度需要20GB内存（10B*2Bytes），优化器状态需要40GB内存（10B*2Bytes*2），总计需要80GB内存。 功耗：随着算力的提升，带来功耗提升，对于芯片的散热要求将明显提升，同时不同场景对于设备耗电量、待机时长等也都有不同要求。

当前进展：手机、PC端已经出现边缘大模型场景落地

手机：ChatGPT已推出IOS应用，安卓版后续也会发布。高通在搭载第二代骁龙8移动平台的Android智能手机上部署Stable Diffusion（参数超10亿个），在15秒内执行20步推理，生成一张512x512像素的图像。 PC：微软和高通、英特尔在AI领域展开合作，部署推出搭载AI引擎的PC产品。具身智能：英伟达创始人黄仁勋表示AI下一个浪潮将是“具身智能”，并且公布了多模态具身人工智能系统Nvidia VIMA。

三、产业链新增AI，强化算力与连接

边缘计算市场快速增长

STL Partners数据显示，边缘计算潜在市场将在10年内以48%的复合年增长率从2020年的90亿美元增长到2030年的4450亿美元，其中边缘基础设施的增长速度是最快的。 亿欧智库数据显示，2021年我国边缘计算市场规模已经达到427.9亿元，其中边缘硬件市场规模为281.7亿元，边缘软件与服务市场规模达146.2亿元，2021-2025年中国边缘计算产业规模预计年复合增速达到46.81%，2025年边缘计算市场整体规模将达1987.68亿元。

边缘计算产业链：新增AI，强化算力与连接

从产业链角度，边缘AI核心在于引入边缘侧的AI能力，进一步增强边缘侧的算力能力、连接能力。重点包括AI芯片、算力模组、边缘网关/服务器/控制器等硬件、AI算法/边缘计算平台等软件环节。

AI芯片：专门用于处理AI大量计算任务的模块

AI芯片是指专门用于处理人工智能应用中的大量计算任务的模块，其他非计算任务则更多仍由CPU负责。从技术架构来看，Al 芯片主要分为 GPU、FPGA、ASIC三大类。其中，GPU 是较为成熟的通用型人工智能芯片，FPGA 和 ASIC 则分别是针对人工智能需求特征的半定制和全定制芯片。 典型AI运算通常需要CPU或者ARM内核来执行调度处理，大量的并行计算靠GPU、FPGA或ASIC来完成。

模组：标准化的模组形态可以有效满足物联网碎片化需求

无线模组是物联网中的连接器件，无线模组将芯片、存储器、功放器件等集成在一块线路板上，实现无线电波收发、信道噪声过滤及模拟信号与数字信号之间相互转换，并提供标准接口的功能模块，终端借助无线模组可以实现通信或定位。 物联网的碎片化需求，基于芯片的开发技术门槛高，客户会选用标准的模组，直接使用模组的标准硬件接口和嵌入式应用协议，不必关心底层逻辑，只要做好应用侧适配。

智能控制器：家电等场景实现智能化的“大脑”

智能控制器和边缘节点算力同样直接相关。 在智能家居、家电、工业控制等场景中，智能控制器是其实现智能化的大脑。 AI带动下游智能化能力提升，智能场景的功能及其交互方式将更加丰富，包括机器视觉、语音识别等AI算法将更多与应用场景结合，同时控制器中也将引入算力芯片等，对于智能控制器的需求量和ASP也将会是直接正向的带动。