AI大牛沈向洋就职清华：人类对AI如何做决定一无所知
AI 已经可以做决定，这是 AI 过程中非常重要的一步。
1、我们缺乏对 AI 所做决定的认知，构建可解释的模型。
AI 就像一个黑匣子，它们能自己做出决定，但是我们并不清楚其中的缘由。所以，我们目前需要做的就是打开这个“黑匣子”，了解 AI 想表达的意思和可能会做出的决定。这就是：如何设计和构建负责任的 AI。
模型的识别准确率已经可以达到 5/6，但是我仍然不知道我要什么，到底是哈士奇还是狼。如果需要的是一只哈士奇，却把狼带回家，那麻烦就大了。你以为训练了一个非常强大的模型，实际上并非如此，这就是我一直在强调的：模型的可解释性十分重要。
2、AI的偏见
从不断的训练中，我们得到结论：这种偏见来自于训练采用的样本数据。
基于以上问题，我们对微软 500 名机器学习领域工程师进行了调查，我们问他们如何改善机器学习系统？在经过调查后得出结论：如今机器学习工程师面临的最大问题之一是他们知道出了一些问题，但是不知道具体是哪里出了问题，也并不知道为什么会出现问题。