AI大模型发展导致算力短缺,大公司开始角逐边缘计算

来源:admin

今年以来,以ChatGPT为代表的AIGC异军突起,在全球范围内掀起了一场关于大模型的竞速赛,由此导致AI算力需求急速攀升。


  云端算力面临成本以及供给压力,无法承载AI算力需求,算力走向边缘成为大势所趋。边缘算力在成本、时延、隐私上具有天然优势,可以作为云端算力的补充,将AI的多样化、海量复杂需求进行本地化预处理,并将其导向大模型,实现AI触及万千场景。

  边缘算力将在AI大模型时代发挥不可或缺的支撑作用,随之将带动万亿级市场规模。根据STL Partners的预测,到2030年,边缘计算潜在市场规模将增长到4450亿美元,行业复合年增长率高达48%。


image.png


  面对广阔蓝海,边缘计算产业链有望充分受益,相关上市企业早已摩拳擦掌,在“边缘侧”展开激烈角逐。


上市公司积极布局边缘算力


  边缘算力即边缘计算,通常指部署在设备本地的算力或者离用户距离较近的数据中心中的计算算力,拥有可定制化、低成本、低时延、高安全性与隐私性四大特征。


  当前,随着AI大模型爆发,大模型迭代和训练所需的算力呈指数级增长,增速将超过单芯片算力增长速度。同时,单个AI超算规模也受到功耗、土地、散热等因素制约。在此形势下,算力供给与需求的缺口持续放大。


  边缘算力可以破局算力短缺难题。当前时点,AI大模型已经站在了从“玩具”向“工具”快速演化的关键迭代期,接下来在AI 向实际场景落地的过程中,边缘算力的重要性将加速凸显。未来的AI运算将呈现出“训练与迭代在云端、推理与内容生产梯度分布(云侧+雾侧+边缘侧)”的格局变化。


image.png


  洞察到边缘算力的重要地位,今年5月份,美国通讯巨头高通表示将由通信公司转型为边缘计算公司,并希望能够依靠通信能力和终端设备布局,凭借着手机芯片,物联网芯片、通信芯片三大能力,从边缘侧进军算力领域。而近期,英伟达发布了Jetson边缘计算平台,以更低的功耗、更强大的AI计算能力,帮助客户加速AI在边缘侧场景下的开发部署。

  国内来看,运营商作为算力网络的主力军,正在加快完善“云网边”算力供给体系,并加大AI业务投入。比如,中国电信布局了“核心+省+边缘+端”四级架构的AI算力网络,并发布了星河AI赋能平台,实现AI能力一键下发、快速部署、全场景应用。中国移动则构建了“4 热点区域+N 中心节点+31 省级节点+X 边缘节点”的算力资源网络,并于近期推出了“九天”人工智能大模型,提供全面的大模型训推一体化研发能力和新型MaaS能力。


image.png


  此外,以网宿科技为代表的边缘计算服务商也动作频频。日前,网宿科技升级推出了网宿边缘GPU算力平台,基于网宿广泛分布的边缘节点资源,提供高性能GPU算力资源。该平台全面覆盖IaaS、PaaS、SaaS层,已经在AI大模型训练、边缘推理、AIGC文生图、虚拟人等场景落地。稍早之前,网宿也与趋动科技达成合作,加快开拓AI算力市场。

  可以看到,从软/硬件厂商到运营商、服务商,边缘计算产业链各环节的玩家正凭借各自的能力与优势,从不同路径加速抢占“边缘算力”市场的竞争高地。


边缘AI打开广阔市场空间


  需要指出的是,在边缘算力的加持下,大模型部署在边缘侧与移动端将成为必然趋势,由此将推动边缘AI普及,而边缘AI作为智能应用创新的关键使能技术,将驱动智能驾驶、智能监测、智能制造、智能家居、虚拟现实等领域的应用快速落地。


  正是得益于对智能业态、智能场景的深远价值,近年来,边缘算力备受政策关注。国务院《“十四五”数字经济发展规划》中明确提出要加强面向特定场景的边缘计算能力,强化算力统筹和智能调度。随后,各省市相继出台多项政策支持边缘计算产业发展,比如湖北构建了“智算+超算+边缘计算”多层次的算力支撑体系。

  受政策鼓励、技术发展以及市场需求的共同驱动,我国边缘计算产业快步走向成熟。据中国信通院发布的研报显示,2021年,我国边缘计算市场规模为436亿元,预计2024年将达1804亿元,近三年复合增速高达61%。根据亿欧智库调研,2025年,我国边缘计算市场空间有望达1987.68亿元,呈现巨大潜力。

  可以预见,随着AI大模型拉开AI创新浪潮的序幕,边缘算力将迎来广泛应用场景,给各行各业带来更多革新,也给产业上下游企业带来机遇。对此,业内人士指出,边缘场景尤其是边缘AI场景的服务能力将决定产业玩家弯道超车的机会。

  据了解,目前已有部分边缘计算企业率先围绕边缘AI展开场景实践,成功将边缘AI注入多个领域。

  比如在智能制造领域,英伟达Jetson边缘计算平台可以将强大的AI推理计算能力带入工业场景,通过使用GPU加速的AI视觉推理,从而解决流水线上的缺陷检测、柔性制造等问题。在智能监测领域,网宿边缘智能平台已将边缘AI能力下沉到智能勘测、智能养殖、智能换电等场景,通过对各类边缘设备的一体化纳管,对边缘AI应用的批量部署,以及全生命周期的监管运维,从而助力各边缘智能业务更加灵活、高效、精准。

  眼下,围绕AI大模型的“圈地战”已经打响,头部上市企业依托在边缘算力领域的先发优势,并持续加码投入,或将有望巩固市场竞争地位,在产业AI变革浪潮中取得长足发展。


服务热线

400-8510-365

24小时咨询电话

微信客服

添加微信咨询