当下各大企业之间的大模型开发竞争已经逐渐白热化,对于算力的需求正在不断激增。为了提升在侧端的响应速度,不少企业正在试图让AI与边缘计算深度融合。



从商用层面上来说,响应速度更快的边缘计算无疑在操作过程中能够提供更加精确的结果。算力可以说是人工智能的核心,也可以说是生产力的重要构成。但当前的大模型发展,存在严重的训练数据复用的情况。因此,虽然当前看上去在开发的大模型多,打本质上每家都是在打基础,存在严重的资源浪费问题,整个行业的发展其实已经进入了瓶颈期。



当前不少行业仍旧采用从云上接入AI的方式,这导致同一流量接口可能会要面对来自不同方向的访问,这对服务器是不小的考验。chatGPT就曾一度关闭一些付费项目,通过一刀切的方式减少访问量,来缓解服务器压力。



云上的压力,必定会推动边缘的落实。尤其在商用层面,企业通过边缘设备能够有效分摊掉访问压力,提升运行的稳定度。除了效率与稳定性上,边缘计算本身也能够帮助企业直接屏蔽掉一些网络攻击,减少隐私数据暴露的风险。将一般数据与隐私数据进行分流,前者上传云端,后者则储存在本地。如此一来,对于隐私数据的访问监控也能更加方便。



可以说,AI在企业层面的落地,边缘计算是一个不论如何都绕不开的话题。虽然前期相较于云端的成本更高,单从相对综合的角度来看,边缘能够更好地释放AI的算力。当然,更多情况下我们仍旧是同时结合二者,根据其各自的优势灵活进行调整。


AI的普及,也许就在其与边缘计算结合的下一次突破。

点赞(57)

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部