AI Edge工程师：使用容器将CI / CD的功能扩展到Edge设备
AI Edge工程师：使用容器将CI / CD的功能扩展到Edge设备
背景
在人工智能–云和边缘实施课程 –我一直在探索使用容器将CI / CD扩展到边缘设备的想法。在本文中，我将在“ AI Edge工程师”的框架下介绍这些想法。  请注意，此处提供的观点是个人观点。如果您正在探索类似的想法，尤其是在学术界/研究领域，我会征求您的意见。我们很高兴在开发过程中分享见解/代码。您可以在LinkedIn上与我连接HERE
AI Edge工程师用例 – Edge视野之外
当今大多数AI Edge应用程序都基于计算机视觉和语音。
图片或视频中有什么？
给我去最近的当地分行的指示。
将语音转换为文本；
自然语言处理等
是所有认知应用程序，通常在边缘上运行，只要将训练有素的模型部署到边缘设备，就不需要您将其连接到云。
但是，我们看到了AI Edge的其他示例（Edge AI超越了声音和视觉）。
随着AI和Edge计算的应用程序日趋成熟，我们需要更加成熟的开发模型来统一Cloud和Edge设备。
在本文中，我将讨论基于将容器部署到Edge设备以统一Cloud和Edge的AI Edge工程开发模型。
我将此角色称为“ AI Edge工程师”。
AI工程师角色的主要重点是使用容器统一云和Edge之间的开发，以便将代码部署和维护到Edge设备。请注意，在这种情况下，设备的生命周期仍然相同：即计划，配置，监控和报废。设备还会经历其他状态，例如重新启动，出厂重置，配置，固件更新和状态报告。
AI Edge工程师的角色
AI Edge工程师分析，设计和实现跨Cloud和Edge设备的认知AI解决方案。从开发人员的角度来看，AI Edge部署意味着能够安全，无缝地将云和自定义工作负载移动到边缘。它涉及在边缘设备上运行高级分析的能力，该模型在云上进行了训练并在边缘设备上进行了部署。AI Edge部署可从云配置，更新和监控-借助从芯片组到云的端到端安全解决方案
提供离线支持是AI Edge Engineering的关键部分。在实践中，这意味着-与IoT中心（云）同步后-Edge设备可以独立且无限期地运行，而消息正排队等待延迟的云交付
实施AI Edge工程师架构
实施AI Edge生态系统是一个工程主导的问题，即它超出了数据科学方面（编写算法）的范围，因为它包括对devop的理解。我们简要描述了基于Azure的这种解决方案的体系结构。（源Azure文档）：
术语
IoT中心是托管在云中的托管服务，充当IoT应用程序与其管理的设备之间的双向通信的中央消息中心。
IoT Edge是基于IoT中心构建的IoT服务。此服务适用于希望在设备上或“在边缘”而不是在云中分析数据的客户。通过将部分工作负载移至边缘，您的设备可以花费更少的时间将消息发送到云，并对事件做出更快的反应。IoT Edge设备需要在其上安装IoT Edge运行时。
IoT Edge运行时：IoT Edge运行时包括Microsoft分发以安装在IoT Edge设备上的所有内容。它包括IoT Edge代理，IoT Edge集线器和IoT Edge安全守护程序。IoT Edge运行时是将设备转变为IoT Edge设备的程序的集合。总体而言，IoT Edge运行时组件使IoT Edge设备能够接收在Edge上运行的代码并传达结果。IoT Edge运行时的职责分为两类：通信和模块管理。这两个角色由IoT Edge运行时中的两个组件执行。IoT Edge集线器负责通信，而IoT Edge代理部署和监视模块。IoT Edge集线器和IoT Edge代理都是模块，就像IoT Edge设备上运行的任何其他模块一样。
IoT Edge集线器：IoT Edge运行时中负责模块到模块通信，上游（向IoT Hub）和下游（远离IoT Hub）通信的部分。
IoT Edge代理：负责实例化模块，确保它们继续运行，并将模块的状态报告回IoT中心。
IoT Edge模块：IoT Edge模块是一个Docker容器，您可以将其部署到IoT Edge设备。它执行特定任务，例如从设备提取消息，转换消息或将消息发送到IoT中心。
IoT Edge模块映像：IoT Edge运行时用于实例化模块实例的docker映像。
IoT Edge部署清单：一个Json文档，其中包含要复制到一个或多个IoT Edge设备的模块对中的信息，以部署一组模块，路由以及关联的模块所需属性。
将代码部署到Edge设备
当前，大多数物联网应用程序使用简单的架构，在其中它们直接连接到云，即不进行边缘计算。越来越多的未来物联网应用将涉及在边缘设备上处理数据的能力。在边缘设备上运行功能的要求也将要求我们在边缘设备上运行和维护代码。模块将使用容器机制在设备上运行。因此，AI Edge工程师功能将涉及通过容器在Edge设备上运行模块。我们在下面针对预先开发的简单遥测应用描述此机制。

关注 CDA人工智能学院 ，回复“录播”获取更多人工智能精选直播视频！