加入收藏 | 设为首页 | 会员中心 | 我要投稿 云计算网_泰州站长网 (http://www.0523zz.com/)- 视觉智能、AI应用、CDN、行业物联网、智能数字人!
当前位置: 首页 > 服务器 > 安全 > 正文

说一说可解释的反欺诈AI

发布时间:2022-06-14 20:44:49 所属栏目:安全 来源:互联网
导读:近年来,人工智能飞速发展,并作为强大的创新工具广泛应用于各行各业的无数用例中。然而,巨大的责任通常需要巨大的能力。多亏了AI和机器学习,反欺诈技术变得愈加精确并且比以往发展地更加快速。实时的评分技术可以使商业领导立即分辨出欺诈行为。然而,A
  近年来,人工智能飞速发展,并作为强大的创新工具广泛应用于各行各业的无数用例中。然而,巨大的责任通常需要巨大的能力。多亏了AI和机器学习,反欺诈技术变得愈加精确并且比以往发展地更加快速。实时的评分技术可以使商业领导立即分辨出欺诈行为。然而,AI-ML驱动决策的使用也引起了对透明度的关注。并且,当ML模型出现在高风险环境中时,对可解释性的需求也就出现了。
 
  随着由机器制定的关键决策的数量不断增加,可解释性和可理解性也变得越来越重要。技术研究员Tim Miller表示:可理解性是人类能够理解决策原因的程度。因此,发展ML模型的可解释性是至关重要的,它有助于可信任自动化解决方案的制定。
 
  此外,它还可以帮助我们理解模型做出的单个预测。在ML模型调试的过程中,数据科学工作者可以独立地观察每个预测,并以此来解释它。它的特征贡献可以帮助我们察觉该模型正在做什么,我们可以从这些输入中进行进一步的开发。通过利用SHAP,最终用户不仅可以获得模型的基本特征,还可以了解每个特征(在哪个方向)是如何影响模型输出欺诈概率的。
 说一说可解释的反欺诈AI
  置信系数
  最后,在SHAP的帮助下,通过获取对成功模式的信任,置信可以从客户那里获得。一般来说,如果我们理解一个产品是如何运行的,那么我们就会对它更加有信心。人们不喜欢自己不理解的东西。在解释工具的帮助下,我们可以查看黑盒,更好地理解和信任它。并且,通过理解模型,我们还可以对它进行不断的改进。
 
  可解释的增强器(EBM)是使用SHAP梯度增强ML模型的一个替代方案。这是InterpretML(微软的人工智能公司)的旗舰产品,是一个所谓的玻璃盒子。玻璃盒子这个名字来源于这样一个事实:由于它的结构,它的本质是可解释的。根据原始文档,“EBM通常与最先进的黑盒模型一样准确,同时还保持完全的可解释性。虽然EBM的训练速度比其他现代算法慢,但它在预测时,却非常的紧凑和快速。”局部可解释的模型——模型不可知解释(LIME)也是一个可以用来进行黑盒解释的好工具。然而,它更受非结构化数据模型的欢迎。
 
  通过利用上述工具以及透明的数据点,组织可以放心地做出决策。所有的利益相关者必须知道他们的工具是如何得出最佳结果的。了解黑盒ML以及与之相结合的各种技术可以帮助组织更好地了解它们是如何得出结果,从而帮助实现业务目标的。

(编辑:云计算网_泰州站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    热点阅读