每年，科学家和研究人员都会聚集在一个名为 Super Computing 或 SC 的会议上，交流他们在计算科学中的观点、解决方案和问题。在 SC17 上，有不少于 22 场涉及机器学习和深度学习 (DL). 实际上还有更多关于
深度学习的介绍，因为它通常是混合架构的动机（稍后会详细介绍）。如果您考虑到前一年总共有两次 DL 演示，这是非常了不起的。换句话说，我们似乎正在迅速进入数据驱动编程的时代。
这种来自科学界的证据也可以在整个经济中看到。例如，物联网 (IoT) 是一个新兴的新兴产业，它只存在于它可以收集的数据中：没有传感器和数据，就没有物联网。还有更多数据密集型行业的例子经常出现在新闻中，从自动驾驶汽车到自动翻译再到购物者行为预测。
从任务到 GPU
在过去的 40 年中，我们一直在寻找多种分析范式作为我们 DNA 的一部分。
在 80 年代，我们运行单线程分析。这给了我们一些我们不太喜欢的性能数据，所以 20 年后，我们逐渐转向了多线程和多进程执行的并行性。通过并行，我们看到了数量级的性能改进。这种速度的提高是有代价的：开发的复杂性。通过遵循基于任务的开发原则并使用多任务计算框架，我们可以通过将注意力集中在我们的问题而不是多线程和多处理机制上来驯服这种复杂性并提高生产力。
将我们的代码组织成任务在并行化方面有其局限性。主要限制之一是 CPU 内核的数量，在撰写本文时，单台机器的内核数量为数百，而不是数千或数百万。具有数千个内核的通用图形处理单元 (GPU) 解决了这一限制。唉，使用 CUDA 的多个执行线程的复杂同步消耗了大量的开发资源。这种编程复杂性意味着 CUDA 不是数据科学家或统计学家的理想工具。
训练和推理
当我们为数据科学家寻找比 CUDA 更简单的模型时，我们意识到我们可以使用 DL 来训练深度神经网络 (DNN)。这给了我们分析的合理近似值。使用 DNN 对这种近似进行评分，也称为推理，使我们的分析性能提高了另一个数量级。用于数值应用的深度学习诞生了。
我们并不担心训练所花费的时间，因为我们不需要经常进行训练。
一旦我们有了 DL4NA，我们就意识到许多用例都适用于这种方法。考虑使用 DL4NA 通过电话或网站批准贷款。许多法规管理贷款的批准。例如，批准贷款必须是公平的。您不想向监管机构解释您批准了 Jane 的贷款，但没有批准 Sue，因为他们的财务风险状况几乎相同。银行的另一个重要考虑因素是其整体风险管理状况（涵盖银行持有的所有贷款）。通过批准这笔贷款，银行是否会使自己面临更高的风险？例如，银行是否在一个地理区域有太多贷款？必须在整个贷款组合中计算风险概况，而不仅仅是一次贷款。所以，对于一家拥有数千甚至数百万贷款的银行来说，这个计算风险状况的过程需要几分钟，甚至几小时。当您在浏览器中等待批准时，这显然是不可取的。DL4NA 解决了这个问题：您训练一个 DNN 以在几秒钟或更短的时间内估算您批准或拒绝贷款申请的决定。显然，DL4NA 可以快速做出贷款申请的决定，但它可能无法满足监管机构的要求，因为 DL 不会轻易泄露其秘密。为了满足监管要求，银行可以在一天结束时检查其整个风险概况，而不是每次考虑新的贷款申请时。您训练 DNN 以在几秒钟或更短的时间内估算您批准或拒绝贷款申请的决定。显然，DL4NA 可以快速做出贷款申请的决定，但它可能无法满足监管机构的要求，因为 DL 不会轻易泄露其秘密。为了满足监管要求，银行可以在一天结束时检查其整个风险概况，而不是每次考虑新的贷款申请时。您训练 DNN 以在几秒钟或更短的时间内估算您批准或拒绝贷款申请的决定。显然，DL4NA 可以快速做出贷款申请的决定，但它可能无法满足监管机构的要求，因为 DL 不会轻易泄露其秘密。为了满足监管要求，银行可以在一天结束时检查其整个风险概况，而不是每次考虑新的贷款申请时。
混合架构
在上面的示例中，我们使用 GPU 来运行训练和推理。其他设备可用于执行相同的任务。
CPU 和其他设备的这种结合称为混合架构。我们相信这就是未来计算机的构建方式。这意味着，如果您想部署 Analytics 以使其尽可能快地运行，则必须采用混合架构。
好消息是，使用 DL4NA，您可以在混合架构上部署您的分析。
结论
我们应该指出，即使这篇文章强调了混合架构带来的巨大性能提升，您也可以从更广泛的平台中受益来部署您的分析。使用 DL4NA，您可以将任何可以使用 DNN 近似的分析程序部署到任何这些设备。特别是，您可以在 IoT 设备中运行 SAS、MATLAB、Octave 或 Python 程序的近似值，从而将您的分析推向网络边缘。
扫码加好友，拉您进群
全部版块
我的主页
收藏
