人工智能 (AI) 推动越来越多的决定影响我们生活的方方面面，从去哪里度假到可能影响我们预期寿命的医疗保健建议。随着人工智能影响力的增长， 市场研究公司 IDC 预计 2023 年在其上的支出将达到 980 亿美元，高于 2019 年的 380 亿美元。但在大多数应用中，人工智能几乎没有解释它是如何达到它的建议的。这就像一个学生展示了学校数学问题的答案，但当被要求展示他们的工作时，只是耸了耸肩。

这种“黑匣子”方法在五年级数学作业中是一回事，但在涉及到高影响力的商业保险索赔领域时又是另一回事，在这个领域，理算员经常做出影响每年数百万美元索赔的重大决定。所涉及的利害关系使得调整者和他们工作的运营商在做出重大决策之前和之后看到人工智能的推理至关重要，因此他们可以有效地审计他们的绩效并优化业务运营。

对日益复杂的担忧人工智能模型激发了对“可解释人工智能”（有时称为 XAI）的兴趣，这是一个不断发展的人工智能领域，要求人工智能展示其工作。可解释的人工智能有很多定义，它是一个快速增长的细分市场——也是我们客户经常谈论的话题。

在基本层面上，可解释的 AI 描述了算法是如何得出建议的，通常以它考虑的因素列表的形式和描述每个因素对决策的贡献程度的百分比的形式。然后，用户可以评估驱动输出的输入并决定它信任输出的程度。

透明度和问责制
这种“展示你的作品”的方法有三个基本的好处。对于初学者来说，它为管理模型的人创建了问责制。透明度鼓励模型的创建者考虑用户对其推荐的反应，更深入地思考他们，并为最终的反馈做准备。结果通常是一个更好的模型。


更大的跟进
第二个好处是更频繁地执行 AI 建议。解释的结果往往使用户有信心遵循模型的建议。更大的跟进推动更大的影响，这可能导致对新模型的投资增加。

鼓励人工输入
第三个积极成果是可解释的人工智能欢迎人类参与。了解导致推荐的因素的运营商可以为最终决策贡献自己的专业知识——例如，提高他们自己的经验表明在特定情况下至关重要的因素。

可解释的人工智能应用于垂直行业
现在让我们看看可解释的人工智能如何在各种垂直市场中显着改变游戏规则——例如，工人赔偿索赔领域。

工伤赔偿以及由此产生的医疗、法律和行政费用每年使保险公司损失超过 700 亿美元，雇主损失超过 1000 亿美元，并影响数百万提出索赔的工人的生活。然而，整个行业不到 40,000 名理算员的专门工作人员正在处理美国超过 300 万工人的赔偿索赔，通常配备了令人惊讶的基本工作流程软件。

进入人工智能，它可以获取工人赔偿索赔中不断增长的海量数据，并生成越来越准确的预测，例如索赔的可能成本、提供者治疗伤害的有效性以及诉讼的可能性。

将人工智能应用于任何索赔的关键在于，管理索赔的理算员看到、相信并采取行动——并且在索赔中尽早这样做，以对其轨迹产生影响。

理算员现在可以监控索赔仪表板，向他们显示索赔的预计成本和医疗严重程度，以及推动这些预测的加权因素，基于：

索赔人的属性
伤害
过去类似索赔的路径
理算员还可以看到索赔人是否会聘请律师的可能性——在灾难性索赔中，这一事件可能会使索赔成本增加四倍或更多。

让我们通过一个例子来看看这如何推动更好的决策。假设索赔人膝盖受伤，但还患有类风湿性关节炎，这需要特定的药物和物理治疗方案。

如果调整人员查看了考虑到这一点但没有特别指出的总体成本估算，他们可能会认为分数太高而简单地对其进行打折或花时间进行自己的估算。

但是通过查看分数组成部分，他们现在可以清楚地看到这个复杂的因素，知道将更多时间集中在这个案例上，并可能聘请训练有素的护士为他们提供建议。他们还可以使用人工智能来帮助找到具有类风湿性关节炎专业知识的特定医疗保健提供者，从而使索赔人可以针对他们的病情获得更有针对性的治疗。

结果很可能是：

更有效的护理
更快的恢复时间
为保险公司、索赔人和雇主节省成本
可解释的 AI 还可以显示预测中可能缺少的内容。一个分数可能表明律师参与的风险很低。根据列出的因素，包括位置、年龄和伤害类型，这可能是一个合理的结论。

但是调节器可能会发现缺少某些东西。他们可能从索赔人那里得知他们可能会在工作中被解雇。知道对终止的恐惧会导致聘请律师，理算员可以知道要在这个特定的索赔人身上投入更多的时间，减轻他们的一些担忧，从而降低他们聘请律师的风险。

在整个公司推动成果
除了增强特定案例的结果外，这些示例还展示了可解释的 AI 如何帮助组织优化所有索赔的结果。例如，风险经理可以评估团队通常如何跟进律师参与风险较高的案件，并实施新的实践和培训以在未来更有效地应对风险。护理网络经理可以确保他们引入新的提供者，以帮助应对护理领域的新兴趋势。

通过监控后续行动并使调整者能够就特定分数和建议提供反馈，可以加速改进周期，从而产生更好的模型、更多的反馈和更多的微调——在人工智能和调整者之间建立持续的对话，最终转变工人的薪酬。

不过，工人薪酬只是有望从可解释的人工智能中受益的一个领域。展示他们工作的模型正在金融、卫生、技术等领域得到采用。

可解释的 AI 可以成为增强用户信心、加速采用并帮助将 AI 愿景转变为企业、消费者和社会的真正突破的下一步。

相关帖子DA内容精选 2022年300个以上最佳免费数据科学课 大厂数据分析面试指南！来自亚马逊、谷歌、微软、头条、美团的面试问题！ 机器学习模型方法总结 历史最全机器学习/深度学习/人工智能专业术语表中英对照表 机器学习如何应用于商业场景？三个真实的商业项目 数据工作者的自我修养 | 哪些技能是必不可少的？ 《汗牛充栋：数据分析书籍分享》CDA网校新课上线 文本挖掘常用的107个语料库 一图读懂“东数西算”工程 零基础转行数据分析，看这篇文章就够了