边缘机器学习
边缘计算将工作负载从集中位置移动到远程位置，并且可以提供来自AI应用程序的更快响应。越来越多地部署边缘计算设备，以监视和控制现实世界的流程，例如人员跟踪，车辆识别，污染监测等。在设备上收集的数据通过数据管道传输到集中式云服务器，并用于训练机器学习模型。训练模型需要大量的计算能力，当前的策略是集中训练并部署在边缘设备上进行推理。深度学习模型已经被用于边缘识别，监视等关键问题。此外，利用ML模型的推论，边缘设备上存在数千个AI应用程序。机器学习模型已部署在Raspberry pi，智能电话，机器学习框架（例如TensorFlow Lite）等微控制器上。在边缘执行机器学习的挑战是：
从大量存储的数据中训练模型
预处理和数据清理中的延迟
通过流数据进行动态在线培训
实时决策中的延迟
培训阶段增加了功耗
机器学习在数据中寻找模式并影响基于它们的决策。边缘智能（也称为Edge AI）使边缘设备具有快速决策能力，以实现实时响应。例如，让我们检查一个常用的支持AI的应用程序来识别植物。Pl @ ntNet是用于从植物的叶子和花朵的图片中识别植物的应用程序。该应用程序可用于识别在亚洲国家/地区用于制备整体药物的稀有药用植物。该应用程序可以在Web上使用，也可以移动应用程序的形式使用。移动应用程序版本在边缘使用了ML推理。在边缘，对图像进行预处理需要花费大量时间，并且需要很长时间才能确定植物的名称。数据传输到云的延迟以及API响应的延迟正在推动许多AI开发人员c从云迁移到边缘。我们可以将边缘计算能力用于机器学习解决方案（如Pl @ ntNet）中的训练和推理。
云服务提供商提供用于视觉，预测，聚类，分类，语音和自然语言处理的API。视觉类别中的API公开了用于面部检测，面部验证，面部分组，人员识别和相似性评估的预训练模型。云中预先训练的模型的存在吸引了AI解决方案开发人员将其用于推理，并创造了将内部计算迁移到云的趋势。现代边缘设备上可用的计算能力等于或高于高端服务器上可用的计算能力。许多初创公司和芯片制造商正在研究专用的加速器芯片，以在边缘加速和优化ML工作负载的执行。例如，在加速器芯片上实现的卷积神经网络有助于在基于ML的面部识别系统的预处理阶段进行实时图像过滤。高性能边缘设备的示例包括LattePanda Alpha，Udoo Bolt，Khadas Edge-V，Jetson Nano和Intel Neural Compute Stick。Jetson Nano具有内置的GPU，使它们能够执行视频图像的实时数字识别。可以通过USB将神经计算棒插入Raspberry Pi，以增强其计算能力。随着这些设备的发展，边缘计算减轻了当今Internet的延迟和带宽限制。预测表明，边缘计算将在未来吹走云，而云将仅成为数据存储。高性能边缘设备的示例包括LattePanda Alpha，Udoo Bolt，Khadas Edge-V，Jetson Nano和Intel Neural Compute Sticks。Jetson Nano具有内置的GPU，使它们能够执行视频图像的实时数字识别。可以通过USB将神经计算棒插入Raspberry Pi，以增强其计算能力。随着这些设备的发展，边缘计算减轻了当今Internet的延迟和带宽限制。预测表明，边缘计算将在未来吹走云，而云将仅成为数据存储。高性能边缘设备的示例包括LattePanda Alpha，Udoo Bolt，Khadas Edge-V，Jetson Nano和Intel Neural Compute Stick。Jetson Nano具有内置的GPU，使它们能够从视频图像执行实时数字识别。可以通过USB将神经计算棒插入Raspberry Pi，以增强其计算能力。随着这些设备的发展，边缘计算减轻了当今Internet的延迟和带宽限制。预测表明，边缘计算将在未来吹走云，而云将仅成为数据存储。可以通过USB将神经计算棒插入Raspberry Pi，以增强其计算能力。随着这些设备的发展，边缘计算减轻了当今Internet的延迟和带宽限制。预测表明，边缘计算将在未来吹走云，而云将仅成为数据存储。可以通过USB将神经计算棒插入Raspberry Pi，以增强其计算能力。随着这些设备的发展，边缘计算减轻了当今Internet的延迟和带宽限制。预测表明，边缘计算将在未来吹走云，而云将仅成为数据存储。
在不久的将来，人工智能应用将在诸如智能手机，汽车，照相机和家用设备之类的设备上无处不在。除了推论，我们还可以通过在数据管道中合并预处理和规范化步骤，从流数据的边缘训练ML模型。边缘的模型将使用选定的属性进行训练，这些属性对于解决主要问题很重要。例如，城市中选定路口的污染水平，温度，交通密度等变化趋势。将模型从边缘设备传输到中央服务器节省了处理原始数据所需的大量带宽和中间存储空间。预测模型根据自变量预测目标发生的可能性。这些模型可以在边缘进行训练，并且每天或每周都可以转移到云中的中央服务器。通过考虑来自多个位置的方案，可以在中央服务器上整合来自多个边缘设备的模型，以进行全局有效的预测。为了进行合并，从边缘接收的模型可用于针对一组预定义的独立变量重建目标变量。可以使用边缘模型的输出作为目标变量来训练全局模型。为了进行合并，从边缘接收的模型可用于针对一组预定义的独立变量重建目标变量。可以使用边缘模型的输出作为目标变量来训练全局模型。为了进行合并，从边缘接收的模型可用于针对一组预定义的独立变量重建目标变量。可以使用边缘模型的输出作为目标变量来训练全局模型。
边缘设备的模型将使用不同的ML框架开发，并且要从这些框架中传输模型，我们需要一种标准格式。这就是预测模型标记语言（PMML）变得有用的地方。它是一种基于XML的语言，可以在应用程序之间定义和共享预测模型。这种标记语言允许共享通过各种建模框架开发的模型，例如Spark ML，R，Pytorch，TensorFlow等。
总而言之，在分布式决策时代，边缘的机器学习将成为趋势。在边缘设备上训练和部署的ML模型通过为边缘设备提供更多的自治权，有助于分散决策过程的分散性。这使边缘设备能够对需要快速响应的情况做出即时反应。准备与部署的智能边缘设备共存，以跟踪您的动作和动作。

关注 CDA人工智能学院 ，回复“录播”获取更多人工智能精选直播视频！