电商信息资讯,更全更新信息实报!
主页 > 知识 > > 正文

肖仰华 | 基于知识图谱的可解释人工智能:机遇与挑战

来源:网络整理 发布时间:2021-09-22 20:05 标签:人工智能机器学习深度学习
浏览:

本文转载自公众号知识工场,整理自 2017 年 10 月 13 日肖仰华教授在 CIIS2017 中国智能产业高峰论坛上所做的报告。

电商 知识图谱

肖仰华:很高兴有机会跟大家一起分享《基于知识图谱的可解释人工智能:机遇与挑战》。

刚才刘总的报告中提到了机器和人类将来要互相拥抱电商 知识图谱,互相拥抱的前提是互信,机器要相信我们,我们要相信机器。这个相信指的是,比如机器给我们做一个决策案或者治疗方案,我们能够相信机器给出的结果。当前,机器显然还不能给出合理的解释, AI系统作出的决策仍然缺乏可解释性。正因为可解释性的缺乏,导致人类对机器产生的结果无法采信。可以设想一下,如果我们都不相信机器的行为和决策,那么机器为人类生活提供的服务将大打折扣。所以需要增强人工智能的可信性和可解释性。

电商 知识图谱

AI的可解释性问题要从深度学习谈起。这几年我们见证了深度学习的一系列突破。深度学习的进展本质上是由大数据喂养出来的。大数据时代,海量高质量的带标注数据,使深度学习模型可以学习到非常有效的层次化特征表示,从而使得深度学习成为可能。以云计算为代表的大规模分布式计算平台以及GPU、FPGA等硬件能力的提升为深度学习提供了必要的计算基础设施。大数据喂养下的深度学习取得了显著进展,机器在图像、语音识别等感知能力方面甚至超越人类。在深度学习的推动下,自然语言处理方面也取得了显著进展。

电商 知识图谱

然而,深度学习的一个广为诟病的问题是其不透明性,不可解释性。深度学习模型是一种端到端的学习,接受大样本作为训练输入,所习得的模型本质上是神经网络结构的参数。其预测过程,是相应参数下的计算过程,比如说输入一张狗的图片,机器做出是否是狗的判断。深度学习的学习和预测过程是不透明的,模型究竟学到了什么有效特征,使得它做出这样一个判断,这个过程缺乏可解释性。深度学习的不透明性问题,有时又被称为深度学习的黑盒(“Black box”)问题,最近受到了广泛关注。《Nature》、《Science》以及《MIT Technology Review》最近都有文章讨论这一问题,都指出深度学习的发展需要打开这个黑盒。乔治亚理工的Mark Riedl认为如果AI系统不能回答Why问题,解释这些系统何以产生特定的结果,这些AI系统就只能束之高阁。

电商 知识图谱

深度学习的黑盒问题吸引了各界人士广泛的研究兴趣,学术界与工业界都在努力打开深度学习或者AI系统的黑盒子。这些工作都可以被视作是可解释人工智能的研究范畴,也就是Explainable AI或者简称为XAI。XAI吸引了很多学术团体和政府的关注,最有代表性的就是David Gunning所领导的美国军方DAPRA可解释AI项目,他们旨在建设一套全新的且具有更好可解释性、以及更易为人所理解的机器学习模型。比如在猫的识别任务中,新模型不仅仅告诉你这是一只猫,而且还告诉你模型是因为观察到了猫所特有的爪子和耳朵等做出这是猫的判断。

电商 知识图谱

XAI在我看来,不单单是对于解决深度学习可解释性问题具有重要意义,它将在整个AI里都扮演着非常重要的角色。因为,我个人认为理解和解释将来会是整个后深度学习时代人工智能最为核心的使命。在深度学习时代,我们的模型某种程度上只“知其然”而不知其“所以然”。这就好比中医看病,根据以往的经验做诊断。当然,无论是现代中医还是传统中医也都在寻求理论解释,但是仍然很难全面达到西医的解释水平。很显然,我们不可能对只知其然而不知其所以然的AI系统完全采信。所以AI势必要从只“知其然”走向“知其所以然”。我们希望XAI能够解释过程,也能够解释结果。只有能够解释过程和结果,才能使人类信任它。还有很多机器学习模型,我们知道任何模型都不可能100%准确,一定会产生错误,对于产生这些特定错误的原因,我们也在寻求解释。更重要的是,未来我们的AI医生所做的任何治疗方案,都必须配备解释,否则人类不可能为它的诊断买单。在电商以及更多商业场景下,可解释的推荐显得尤为重要,我们相信,将来如果电商不只是给用户推荐一个商品,而且还能告诉用户为什么推荐这个商品,这样的推荐更有说服力。比如说用户去订酒店的时候,可以告诉用户推荐这个酒店的理由,或是离用户会场较近,或是价格便宜。再比如说用户搜索“二段奶粉”,平台可以告诉用户喝此段奶粉的婴儿每天需要饮用多少水,用多大容量的水杯保证每天用水量,从而推荐水杯给用户,如果平台做到有解释的推荐,相信销量肯定会大有提升。

发表评论
验证码: 点击我更换图片

注:网友评论仅供其表达个人看法,并不代表本站立场。

近期活动

更多 >

热门文章

  • 知识图谱完整项目实战(附源码)(3)
    知识图谱完整项目实战(附源码)(3)

    知识图谱完整项目实战(附源码)(3)

    本文是《知识图谱完整项目实战(附源码)》系列博文的第3篇:汽车知识图谱系统架构设计,主要介绍汽车领域知识图谱系统的总体架构设计和关键技术。...

  • 为电商而生的知识图谱,如何感应用户需
    为电商而生的知识图谱,如何感应用户需

    为电商而生的知识图谱,如何感应用户需

    如何建设一个比较通用的面向应用的概念体系,支持根据业务需求提供查询服务,已经迫在眉睫。mining流程后持续扩大挖掘覆盖),目前数据已经作为类目预...

  • 2020年国内十大生鲜电商平台排名!
    2020年国内十大生鲜电商平台排名!

    2020年国内十大生鲜电商平台排名!

    目前除了我们熟知的天猫生鲜、京东生鲜等生鲜平台,还有哪些生鲜电商o2o平台呢?接下来我们就一起来看看2020年十大生鲜电商平台有哪些!每日一淘是一个...

  • 阿里知识图谱首次曝光:每天千万级拦截
    阿里知识图谱首次曝光:每天千万级拦截

    阿里知识图谱首次曝光:每天千万级拦截

    阿里妹导读:借助阿里知识图谱的建设,阿里电商平台管控从过去的“巡检”模式升级为发布端实时逐一检查。在海量的商品发布量的挑战下,最大可能地...

  • 互联网+生鲜电商解决方案 生鲜电商O2O解
    互联网+生鲜电商解决方案 生鲜电商O2O解

    互联网+生鲜电商解决方案 生鲜电商O2O解

    生鲜电商O2O解决方案(38页珍藏版)》请在人人文库网上搜索。度上限制了生鲜电商的发展。方的农业生鲜交易平台存在小、弱格局。、配送企业、线下门...

人物

更多 >
人物马云:区块链不是泡沫
人物李彦宏:百度有自己的价值观 未来“AI战
人物吴欣鸿:美图秀秀下一个十年发力图片社
人物最贵的离职:陆奇带走了百度900亿市值
人物刘强东代言上瘾,这次为核桃代言

专题

更多 >
广告位