可解释的人工智能可以使人们了解人工智能系统如何做出决策，这将成为医疗，制造，保险和汽车领域的关键。那么这对组织意味着什么呢？例如，流音乐服务平台Spotify计划向用户推荐歌手JusTIn Bieber的歌曲，但推荐Belieber的歌曲。显然，这有点麻烦。这并不一定意味着SpoTIfy网站的程序员必须确保其算法透明且易于理解，但是人们可能会发现这有点偏离目标，但后果显然是微不足道的。这是可解释的人工智能的试金石，即机器学习算法和其他人工智能系统，它们可以产生易于被人类理解并追溯到其起源的结果。基于人工智能的结果越重要，对可解释的人工智能的需求就越大。相反，相对低风险的人工智能系统可能仅适用于黑匣子模型，人们很难理解结果。 Jane.ai的人工智能研发总监Dave Costenaro表示：“如果人工智能算法的效果不够好，例如音乐服务公司推荐的歌曲，那么社会可能就不需要监管者来监督这些建议了。 ”。人们可以容忍应用程序对其音乐品味的误解。但这可能无法忍受人工智能系统带来的更重要的决定，也许是在提议的医疗或拒绝申请抵押的情况下。这些都是高风险的情况，尤其是在负面结果的情况下，人们可能需要清楚地说明如何达到特定的结果。在许多情况下，审计师，律师，政府机构和其他潜在方也会这样做。 Costenaro说，随着对特定决策或结果的责任从人转移到机器，对可解释性的需求也将增加。 Costenaro说：“如果该算法使人类陷入了这种循环，那么人类决策者将继续承担解释结果的责任。”他以计算机视觉系统为例，该系统为放射科医生预先标记了X射线图像。他说：“这可以帮助放射科医生更准确，更有效地工作，但最终将提供诊断和解释。” IT的人工智能责任：解释原因。但是，随着人工智能的成熟，人们可能会看到越来越多的新应用逐渐依赖于人类的决策和责任。音乐推荐引擎可能没有特别重要的责任负担，但是许多其他实际或潜在用例将面临重大责任。 Costenaro说：“对于新型的人工智能决策来说，这些决策具有很大的影响力，并且由于所需的处理速度或数量，人们将无法再有效地参与其中。从业人员正在尝试寻找解释。算法方法。” IT领导者需要采取措施，以确保其组织的AI用例在必要时正确包括可解释性。 TIgerGraph营销副总裁Gaurav Deshpande表示，许多公司的CIO已经开始关注此问题，即使他们了解特定人工智能技术或用例的价值，他们通常也会有所犹豫。 Deshpande说：“但是，如果您不能解释如何得出答案，那么您将无法使用它。这是因为黑匣子人工智能系统存在偏差的风险，这可能会导致诉讼，对该公司的品牌和资产负债表承担重大责任。和风险。”这是思考公司如何以及为什么采用可解释的人工智能系统而不是运行黑匣子模型的另一种方式。他们的业务可能取决于此。人们关于人工智能偏见的主张可能会被误导。在较高风险的情况下，类似的要求可能会非常严重。这就是为什么可解释的人工智能可能成为机器学习，深度学习和其他学科中商业应用的焦点的原因。 Ness Digital Engineering的首席技术官Moshe Kranc讨论了可解释的人工智能的潜在用例。他说，“任何影响人们生活的用例都会受到偏见的影响。”答案是简单而深远的。他分享了人工智能可能做出的决策的越来越多的示例，但这从根本上要求人工智能的信任，可审计性和其他可解释的特征：