可解释的人工智能（XAI）
机器学习的巨大成功已导致大量的人工智能（AI）应用程序。不断的进步有望产生能够独立感知，学习，决定和采取行动的自主系统。但是，这些系统的有效性受到机器当前无法向人类用户解释其决策和动作的限制（图1）。国防部（DoD）面临着需要更智能，自治和共生系统的挑战。如果未来的战士要了解，适当信任并有效管理新一代的人工智能机器伙伴，那么可解释的AI（尤其是可解释的机器学习）将至关重要。
Explainable AI（XAI）计划旨在创建一套机器学习技术，这些技术可以：
产生更多可解释的模型，同时保持高水平的学习表现（预测准确性）；和
使人类用户能够理解，适当信任并有效管理新兴的人工智能合作伙伴。
新的机器学习系统将具有解释其原理，表征其优缺点的能力，并能够传达对它们未来行为的理解。实现该目标的策略是开发新的或经过修改的机器学习技术，以产生更多可解释的模型。这些模型将与最先进的人机界面技术相结合，能够将模型转换为最终用户可以理解和有用的解释对话框（图2）。我们的策略是追求各种技术，以生成一系列方法，这些方法将为未来的开发人员提供涵盖性能与可解释性交易空间的一系列设计选项。

关注 CDA人工智能学院 ，回复“录播”获取更多人工智能精选直播视频！