自主系统的新时代将需要在更靠近源头的地方进行快速数据处理，这使得一些CIO把网络边缘的AI加入到他们的2025年路线图中。 根据Gartner最新的报告预测，企业AI即将到来的阶段，将预示着出现只要最少人工干预的代理系统，仅今年一年就有75%的CIO增加了AI预算。随着生成式AI被嵌入到越来越多的设备中，赋予它自主决策权就将取决于实时数据，以及避免过高的云成本，这就是边缘计算的用武之地。 通过在更靠近源头的地方处理数据，边缘计算可以通过最大限度地减少数据传输来实现更快的决策并降低成本，成为AI一个具有吸引力的环境。前美国白宫首席信息官、网络安全公司Fortalice Solutions创始人Theresa Payton表示：“边缘计算正在迅速发展，从一个有前途的概念演变成许多行业的关键工具。到2025年，边缘计算将变得更加普及，尤其是随着AI和物联网的扩大。” 例如，总部位于美国威斯康星州的电力供应公司Dairyland Power Cooperative已经转向利用AI来改善现场基础设施的优化和性能。“AI让边缘计算变得和CIO相关性更高，因为它可以帮助我们降低数据处理延迟。在我们追求实时处理的情况下，这可能是一个巨大的优势，”该公司副总裁、首席信息官Nate Melby表示。 其他人也表示认同，随着AI的全面推出，边缘处理的增加将自然而然地出现。分布式云计算平台公司Akamai的高级副总裁、首席技术官Robert Blumofe表示：“随着AI应用在关键任务企业用例中的激增，一些AI应用将转向边缘，边缘计算可以减少延迟、降低成本以及数据暴露的风险。” 但企业中的生成式AI被大肆炒作，实际上增值用例很少，分析师们戳破了这些泡沫，一些技术领导者也放弃了。最近人们对AI的兴趣有所减弱，AVOA公司的首席信息官、战略顾问Tim Crawford就提醒，领导者们要进行谨慎的投资。不过他认为，生成式AI以及某些边缘应用有很多以效率为导向的机会，这些机会是值得我们探索的。 投资边缘计算的CIO 近年来，人们对边缘计算的兴趣呈滚雪球式增长。根据IDC的估计，到2024年，全球在边缘计算上的支出将增加14%。引起人们兴趣的一大驱动力就是把AI投入实际应用，这需要低延迟和隐私性，而边缘计算在这些方面表现出色。 Blumofe表示：“我们看到边缘计算的使用范围在迅速扩大，我们将边缘计算用于我们自己的应用中，客户也越来越多地将其用于他们的应用中。”展望2025年，有越来越多的CIO计划在边缘实施AI。 Melby表示：“明年，我们的组织希望利用边缘计算来帮助增强运营决策智能，以及改善我们向智能资产迈进的轨迹。”他们所在的领域，AI和边缘计算正在成为实现下一代高度智能的工业数字化运营的必要条件。他说，这是建立新的、网络化的、动态的能源生态系统的基础。 据Fortalice Solutions的Payton称，将数据处理转移到更接近数据创建地点，这对于那些需要立即采取行动和实时洞察的应用来说尤其有益，无论是在零售、制造还是客户体验领域。“那些优先考虑实时决策和数据处理的组织，应该在2025年及以后的路线图中计划采用边缘计算。” AI与边缘计算齐头并进 软件公司Bizagi的首席信息官Antonio Vázquez表示，边缘计算就是在数据收集和处理终端进行实时数据处理，因此AI自然而然就成了边缘计算的搭档。“AI可以通过提高数据传输、可扩展性、安全性和成本方面的效率，帮助解决过去阻碍边缘技术采用的那些问题。” 运营方面的收益也值得考虑。“AI通过在网络边缘实现实时的、智能的数据处理，使边缘计算与CIO之间的相关性越来越高，”计算公司Macrometa的首席执行官、联合创始人Chetan Venkatesh这样表示。对他来说，这种组合可以带来提升的性能提升、增强的用户体验、新的应用交付方法以及更好的弹性。另一个好处是数据隐私，这是AI系统一个有争议的话题。他说：“在本地处理敏感数据，可以解决人们对数据主权和合规性日益增长的担忧。” 提高数据处理方式和位置，也会带来积极的业务成果。Payton表示：“AI使边缘计算与CIO高度相关，因为它让企业可以在更接近数据生成地点的地方处理和分析数据。随着AI的不断发展，它对快速数据处理的依赖使边缘计算不仅有益，而且对竞争优势至关重要。” 边缘AI的用例 AI推理可以放在设备上、本地或者云端，但边缘在速度和隐私至关重要的众多场景中大放异彩。Venkatesh说:“边缘AI让你可以在最重要的地方——靠近数据源的地方进行即时决策，实现了那些以前不可能实现的用例。” 许多面向用户的场景，都可以从基于边缘的AI中受益。Payton特别强调了面部识别技术、半自动驾驶汽车的实时交通更新以及联网设备和智能手机上的数据驱动增强功能，都是潜在的领域。她说：“在零售业，AI可以通过智能设备实时提供个性化体验；在医疗领域，可穿戴设备中基于边缘的AI可以检测到异常时，立即提醒医疗专业人员，从而有可能挽救生命。” Bizagi的Vázquez表示，AI和边缘计算在智能城市中取得了明显的胜利。他表示，边缘AI模型除了控制交通信号灯之外，还可以提供多种帮助例如公民安全、自动驾驶、智能电网和自我修复基础设施。就他而言，巴林、格拉斯哥和拉斯维加斯等城市已经在试水AI了，目的是加强城市规划、缓解交通流量和提高公共安全。 自主管理的智能基础设施，这无疑是Dairyland的Melby的首要考虑因素，因为能源行业正在努力利用AI来实现排放目标、过渡到可再生能源、以及提高电网的弹性。他说：“我们正试图接受更灵活的能源交换，分配能源生产，并在实时运营中融合多种资源。通过利用AI和边缘计算，我们可以建立具有明确和可预测边界的机器决策，从而有效地降低一些复杂的运营决策的风险。”其中一个特定领域，就是根据成本和预测选择和平衡多种能源，例如风能、太阳能或电池存储，以及自动优化双向电力流。 另一个领域是制造业。Akamai的Blumofe指出，制造商可以使用边缘AI算法来监控生产质量和工作场所安全，并对生产流程进行实时调整，还包括预测性维护和机器自我诊断等。 AVOA的Crawford表示，其他特殊情况也很重要，例如让战区士兵使用生成式AI。然而，总的来说，他对边缘AI的看法更为务实一些，认为它更像是一种专业用例，而不是一种包罗万象的技术。他说：“边缘AI和计算仍然非常小众”，他将其中一部分归因于训练模型的高成本和低回报，“必须有显著的价值来抵消成本”。 边缘对业务的影响 CIO们往往对边缘AI给业务带来的影响持积极态度，认为它可以提高可靠性、减少数据传输、增强个性化并降低数据泄露风险。 其中一个关键好处，就是将可靠性带到了边缘。Bizagi公司的Vázquez表示：“对于任何需要优化资源、靠近事件发生地点、远离系统管理地点的技术来说，自我修复系统是提高其可靠性的关键”，可以通过使用AI驱动的组件来实现负载平衡、容错或预测异常检测。 除了传统的保护措施外，边缘自主AI将带来前所未有的实时操作响应能力。Melby说：“改进的决策智能，持续和无缝的精简自动化，以及实现确保未来互操作性的数字生态系统，这这些都是巨大的好处。”特别是在能源行业，边缘自主AI可以通过从被动方法转向预测方法来帮助改善电网维护。 除了运营效益外，其他人还希望通过边缘AI提供更快速的、更个性化的体验来提升客户体验。Macrometa公司的Venkatesh表示：“当今的用户期望获得即时的、智能的且富有洞察力的在线体验。”然而，这些日益动态的交互往往需要向远程服务器发出API请求链，但这会导致延迟。他说：“设计精良的、部署良好的边缘AI集成了更多功能，并且代码更改极少，使企业能够提供用户渴望的实时交互式体验。” 虽然潜在的好处比比皆是，但期望必须基于现实，因为如果没有业务成果，很多用例就会被抛在一边，Crawford说。 由于AI训练和推理的绝对功率要求很高，因此门槛也很高，这就造成了物理上的限制。他指出，爱尔兰最近发生的一次电网故障就给AI处理等能源密集型计算任务造成了影响。 正确使用边缘AI 在边缘实施AI，应该是和谨慎乐观的态度相平衡的。例如，Payton建议把AI战略和业务成果相结合，采取“走而不跑”的方法。“我建议CIO实施试点-测试-学习的方法，确保在实施AI和边缘计算时充分了解总体拥有成本、安全注意事项和业务弹性计划，”她说。 CIO们还必须证明投资的合理性，优化对实物资产的使用。Melby建议组织要仔细考虑他们试图解决的问题以及结果会是什么。他说：“我所在的行业中，我们正在努力提高效率和弹性，而AI的边缘计算将以我们从前无法实现的方式提供帮助，这种潜力是变革性的。”他补充说，CIO们应该仔细规划模块化或小型数据中心在边缘的位置，以获得最大的价值。 Blumofe说，成功还取决于为现有的应用选择正确的模型，因为并非每个AI应用都需要在耗电的高端GPU上运行大型语言模型等繁重工作。他说：“在很多企业用例中，针对普通CPU运行而优化的小型AI模型是一个更好的解决方案。这种在边缘运行的优化模型可以显著降低延迟和成本。”随着市场中大型语言模型的数量不断激增，简单地分析可用的选项也是一项任务。 除了做出合理的判断之外，在蜂窝技术中融入与平台无关的工具和前沿技术，这对于边缘的未来也很重要。Payton说：“优先考虑可扩展的、分散的架构，这种架构可以在处理AI工作负载的同时利用无缝集成了边缘、云和本地系统的混合云解决方案。此外，5G等技术将在支持更快的数据传输方面发挥关键作用，使边缘计算更加可行和有效。” 为更清洁的未来做好准备 Crawford说，来自各个方向的阻力很快就会到来，而CIO们还没有充分意识到这些阻力。其中之一就是碳足迹，例如，欧盟《企业可持续发展报告指令》（CSRD）将在2025年初生效，该指令要求准确核算企业对环境的影响。 此类法规可能会使不少AI计划的部署变得更加复杂。因此，在这种环境下，CIO们必须是聪明且有意识的。Crawford鼓CIO在涉足AI之前就设想好价值链，评估风险技术债务的前景，重点提高弹性。 Payton表示：“总体来看，实施强调安全性、可靠性、透明度、公平性和问责制的最佳实践非常重要，这可以解决偏见、安全漏洞和道德问题等风险。” 虽然AI带来的风险可能会让人停下来思考，但不变革就会面临失败。Venkatesh表示：“对于那些希望增强基础设施的CIO来说，采用AI进行边缘计算不仅是一种趋势，而且是保持竞争力的必要条件。”