揭开AI部署神秘面纱:在云端和边缘
如今,有两种可能的深度学习技术部署:直接在设备上在云端和边缘。
由于对处理能力和内存消耗的广泛需求以及AI模型的规模,这些部署中的大多数依赖于云。尽管云部署使AI可以从高性能计算系统的功能中揭开受益,但挑战依然存在。需要将数据从设备来回发送到云以进行处理会引起隐私问题,并且由于延迟,带宽和连接性而存在限制。
这促使业界专注于边缘AI的开发,这是我在上一篇文章中谈到的主题。这些工作主要围绕引AI入用于训练AI模型的新方法进行,这些方法可以减少占用空间,因此可以将这些模型直接部署在边缘设备上。
边缘AI将通过使智能设备实时做出真正自主的决策来解决深度云的不足,从而促进深度学习。具体而部署言,这将消除了将所有数据连续发送到云或从云连续发送的需要,从而改善了隐私,带宽和延迟限制。此外,新兴的边缘AI部署方法极大地提高了速度,功耗和内存消耗,从而可以降低成本并限制对环境的影响。
一个人的利神秘益不能被另一个人完全取代;因此,最具影响力的现实世界AI部署将是采用混合方法的部署:在云中和边缘。但是混合方法是什么样的呢?
混合部署的免费工作流可获得更好的结果
第一步是通过确定必须实时在边缘进面纱行决策的用例,并通过可在云中进行处理以进行长期分析和改进的方案,来淘汰可最大化效率和可扩展性的工作流程。
如果您在智能边缘设备上部署深度学习,那么在需要实时决策的情况下,例如自动驾驶汽车,农业无人机:在和系统,摄像机,移动设备等。同时,系统可以将数据上传到云中以进行存储以及进一步处理和分析,而这些处理和分析可以由功能更强大的引擎执行。这将确保该系统可以实现大功率计算的优势,并允许将云中的云端数据与其他系统中的数据进行组合。
利用这些组合数据,可以对模型进行重新训练以进行持续改进。一旦在云中进行了再培训,就可以在边缘重新部署新模型。
与采用单一方法相比,将云AI和边缘部署的优势整合在一起更强和边大。具体来说,云AI的处理能力和高性能可以补充边缘AI的效率,速度和自主性。
混合方法在行动
人工智能在自动驾驶汽车中的应用是一个说明补充方法好处的特定用例。
在此用例中,至关重要的是,AI模型必须揭开在边缘,直接在设备和车辆上运行,以确保汽车可以安全行驶。如果汽车在将数据发送到云端并进行处理之前无法采取行动,那么它将无法做出反应并迅速做出决策以确保安全。另外,无法保证车辆将保持连续的互联网连接AI。
但是,汽车制造商还可以从捕获数据中受益,而不仅仅是实时决策所必需的。将收集的数据发送到云进行处理是持续改进和重新训练模型的关键。这不仅可以彻底处理设备的数据,而且还可以将深度学习的见解与从部署其他边缘设备收集的数据相结合,以进行更大的输入和理解。基于此见解,可以不断改进算法以发展自动驾驶汽车系统。
下一步是什么?边缘AI和云AI的演变
随着越来越多的组织在云端或边缘利用AI的力量,我们将看神秘到更多能够提供现实价值的深度学习应用程序。
5G的兴起将继续推动深度学习的发展。随着5G变得越来越普遍,它将增强超级计算的可访问性。具体来说,5G将使从边缘到云的数据共享变得更加无缝和高效,从而促进面纱更高效的数据处理。
但是,即使使用5G,仍然需要在边缘进行实时决策。云仍将无法即时满足边缘应用程序对数据处理的需求。因此,在计划部署模型时,边缘AI必须继续成为AI公司关注的焦点。对于云和边缘部署采用:在互补方法的企业,无论是在其模型的短期处理能力还是在有效存储,处理和改进模型的长期能力上,都将获得最大的成功。
-
亚马逊云科技投资1亿美元成立生成式AI创新中心AI 模型“炒股”比拼!DeepSeek 收益超14%,Gemini2.5Pro 惨亏四成标签: GoogleCloud Mandiant GTIG 网络安全谷歌推出 Gemini CLI GitHub Actions:免费、安全的 AI 集成助力开发者标签: DeepSeekV4 三星 SK海力士 移动空调京东云携手爱诗科技助力商家双十一营销:1元就能生成5秒促销视频标签: 小米汽车 SU7 雷军 小米电池工厂标签: 长鑫科技 科创板IPO DRAM 朱一明标签: 王腾 小米 科技+健康 可穿戴设备标签: 李博杰 DeepSeek PineAI 华为天才少年
- ·ChatGPT 聊天即买!AI 革命电商:一键下单,告别浏览器跳转
- ·阿里云季度营收首次超过200亿元 计划为全新操作系统投入20亿专项资金
- ·基于DevOps的容器安全优秀实践
- ·消息称谷歌与SpaceX正洽谈将数据中心送入太空
- ·400亿的卡脖子赛道即将跑出一个IPO
- ·苹果隐私政策影响营销 美版“闲鱼”Poshmark预计三季度营收预期
- ·英特尔开盘涨超11% 此前消息称公司CEO将于2月15日离职
- ·标签: 华美浩联 AI医疗 倚锋资本 金沙江创投
- ·男士衬衫39相当于什么尺码
- ·最高级别!阿里云获评沙特阿拉伯CST/NCA最高Class C认证
- ·OpenAI宣布ChatGPT 网页端新增 GPT-5 Thinking 调整功能
- ·手抄报关于秋天
- ·苹果下架并整改健康类爆款应用Cal AI,严厉打击规避内购及操纵性计费行为
- ·标签: xAI Grok Macrohard 马斯克
- ·标签: 韵达股份 聂腾云 聂毅鹏 陈立英
- ·谷歌收购Actifio以增强其云服务
- ·关于AI在游戏领域的5个预测,你不一定都知道
- ·OpenAI 推出“实时 API”:让AI语音助手像真人一样沟通
- ·Anthropic 为金融分析师推出增强版 Claude,配备 Excel 扩展和实时数据连接
- ·Reddit CEO直言:AI聊天机器人并未带来流量红利,搜索仍是核心引擎
- ·DeepSeek V3.1终结版发布:修复关键漏洞提升稳定性,V4新架构呼之欲出
- ·云计算核心技术Docker教程:Docker Swarm 模式从灾难中恢复
- ·标签: 亚马逊 杨钧 AGS 裁员
- ·洋葱去味除甲醛吗
- ·云计算开发:Python3三角函数atan()方法详解
- ·标签: 快手 第三季度财报 AI战略 电商GMV
