边缘设备上的
人工智能:工程主导方法
人工智能–云和Edge实施采用工程学主导的方法,将AI部署到云框架内的Edge设备上。
我们经常在闲聊中使用“工程”一词。但是,在这种情况下,我们对工程学赋予特定含义。工程 是使用 科学原理 来设计和建造机器,结构和其他项目,包括桥梁,隧道,道路,车辆和建筑物。美国工程师专业发展委员会将工程定义为:(突出强调了特定的兴趣)
该创新应用的科学原理来设计或开发结构,机器,设备或生产过程,或者作品利用它们
单独或组合 ; 要么
在充分意识到他们的设计的情况下建造或运作它; 要么
预测他们在特定操作条件下的行为;
所有方面都涉及预期的功能,操作的经济性以及生命和财产安全。
工程学有许多学科,例如机械工程,化学工程等。
(根据维基百科改编的工程定义和说明)
但是,当我们考虑将AI部署到Edge设备时,我们会考虑一种跨学科的工程方法。Edge设备上的AI可能包括无人机,Edge分析,嵌入式FPGA等许多领域。
工程方法论
一些初步意见:
科学寻求边界条件,因此知识体系可以以渐进方式扩展到这些条件之外。工程师确定边界(约束)并在这些约束内工作,以创建可供人们用来解决问题的产品。
科学通过库恩(Kuhn)提出的范式转变,向前迈出了重要的一步(科学革命/范式转变)
工程学还创建了自己的新知识体系,其中包括应用科学,但不仅限于应用科学。参考工程师的知识和知识。科学和工程学都涉及解决问题的工具,例如TRIZ
从而:
工程师运用数学和科学来寻找问题的新颖解决方案或改善现有解决方案。
如果存在多个解决方案,则工程师会根据自己的优点来权衡每个设计选择,然后选择最符合要求的解决方案。
工程师可以识别,理解和解释设计上的约束条件,以便获得成功的结果。约束可能包括可用资源,物理,想象力或技术限制,将来修改和添加的灵活性以及其他因素,例如对成本,安全性,适销性,生产率和可维护性的要求。
技术解决方案只是第一步。通常,不足以构建技术上成功的产品,相反,它还必须满足进一步的要求。
通过了解约束条件,工程师可以得出关于可以生产和操作可行对象或系统的限制的规范。
与科学家不同,工程师在社会背景下运作。从本质上讲,工程学与社会,文化和人类行为具有相互联系。工程活动的结果影响环境,社会和经济的变化,其应用带来责任和公共安全。
为体现一项发明,工程师必须将其想法具体化,并设计出人们可以使用的东西
由于设计应该是现实且实用的,因此必须定义其几何形状,尺寸和特征数据。
工程与艺术和美学有关 -前Leonardo Da Vinci的工作和Steve Jobs的方法
(以上摘自维基百科)
对AI和Edge的影响
回顾以上工程学的定义,我们可以推断出一些关键主题,这些主题适用于在云中部署AI和Edge计算:
技术的创造性应用(在我们的案例中为AI,Edge,Cloud)
解决业务问题,例如了解业务问题并使用AI,Edge和Cloud改善业务流程(数字化转型)
应用于价值链(端到端的AI部署)
设计考虑因素,包括性能考虑因素
在限制/公差和特定操作条件下工作
考虑安全性
了解规模
处理物理约束,例如设备约束
了解和管理跨多个平台的完整价值链
由AI驱动的设计,即自学
Edge(IoT)为流程提供反馈循环以驱动流程
该模型在云中训练并部署在边缘
因此,我们可以看到如下图所示。我们通过ML / DL算法对现实世界中的问题进行建模,并通过AI和Cloud实施该模型。该模型部署在边缘上,边缘设备提供了一个反馈循环,以改善业务流程。
在此模型中,IoT / Edge扩展到基本遥测之外。遥测功能从边缘设备捕获数据并将其存储在基于云的数据中。然后,我们可以对该数据进行分析,并基于该数据构建模型。可以训练模型并将其部署到边缘设备。该体系结构还可以包括流分析,还可以包括微服务/无服务器设计原则。最后,CICD / DevOps理念是该过程的关键部分,如下所述。
边缘设备的CICD
在此愿景中,容器是整个过程的核心。
当部署到边缘设备时,容器可以封装用于各种硬件的部署环境。
CICD(持续集成-持续部署)是对边缘设备上容器的逻辑扩展。本质上,CICD和DevOps哲学简化了软件开发。通过协作和自动测试,可以提高软件的质量。(CI部分,即持续集成)。CD(连续部署)部分使您能够快速更新Edge设备-进行补丁/代码更新或模型更新,
边缘设备还需要适应各种执行环境,例如CPU,GPU,FPGA等。容器很适合这种哲学。我们可以从Facebook的
机器学习下面的Facebook论文中看到这一点,了解Edge的推理
最终,我们看到这一理念(AI + Cloud + Edge)以CICD模式部署为容器,从而将整个行业转变为特定行业的容器-跨越云和边缘
结论
人工智能–云和Edge实施采用工程学主导的方法,将AI部署到云框架内的Edge设备上。AI,云和边缘之间的相互作用是一个快速发展的领域。最终,我们看到这一理念(AI + Cloud + Edge)以CICD模式部署为容器,从而将整个行业转变为特定行业的容器-跨越云和边缘。

关注 CDA人工智能学院 ,回复“录播”获取更多人工智能精选直播视频!