进入日本
返回首页

当前位置:进入日本-> 旅游-> 美食-> 可解释推荐系统:知其然,知其所以然

可解释推荐系统:知其然,知其所以然

时间:2018-12-05 23:30来源:进入日本网整理 作者:进入日本

前文侍魂胧月传说攻略大全分享 转职推荐与新手玩法介绍介绍:侍魂胧月传说攻略大全分享,不少玩家还不清楚这款游戏该如何玩了,那下面就让小编带来攻略汇总,包括侍魂胧月传说的所有玩法技巧,可以覆盖到各位小伙伴在游戏中的方方面面,赶快来看看吧。 新手攻略 刚入游戏的玩家应该都能感受到游戏的硬核玩法,四个职业被推至面前要求选择,看着这些老熟人般的面孔,想必大家都迫不。。。

  

可解释推荐系统:知其然,知其所以然

2018-12-04 17:40 来源:微软亚洲研究院 开发 /微软 /设计 进入日本网(www.wokou.net.cn)

copyright 进入日本

原标题:可解释推荐系统:知其然,知其所以然

日本最新动态-www.wokou.net.cn

编者按:单纯的推荐结果和推荐结果+理由的组合,哪个更让你信服?长篇累牍的推荐语和言简意赅的关键词,你更愿意看哪个?这是人们每天都会面对的场景,也是可解释推荐系统研究需要不断优化的问题。

进入日本网(www.wokou.net.cn)

在上一篇文章《可解释推荐系统:身怀绝技,一招击中用户心理》中,微软亚洲研究院的研究员王希廷和谢幸介绍了可解释推荐系统的分类、推荐解释生成方法以及面临的机遇和挑战。本文中,研究员从解释的目标出发,结合现有的方法流程,介绍了他们改进过的新的结构,最后也反思了研究有待改进的方向,为之后的研究提供思路。 日本最新动态-www.wokou.net.cn

近几年,人工智能的可解释性问题受到了来自政府、工业界和学术界的广泛关注。美国国防部先进研究项目局DARPA资助了可解释性人工智能项目XAI(Explainable AI);中国国务院在《新一代人工智能规划》中提出的“实现具备高可解释性、强泛化能力的人工智能”目标,得到了各个公司的积极响应;ICML 2017年的最佳论文《Understanding Black-Box Predictions via Influence Functions》以及NIPS 2017的最佳论文《A Linear-Time Kernel Goodness-of-Fit Test》也和可解释性有着紧密关联。

copyright 进入日本

当深入研究这个新兴且快速发展的领域时,一些尚未清楚的问题也困扰着我们。解释的具体目标是什么?当我们要将解释呈现给普通用户看时,我们的目标是否会有变化?怎么对可解释性的问题进行较为严格的定义?提高机器学习方法(如推荐模型)的可解释性,现有方法的流程是什么样的?未来的发展方向是什么样的?

本文来自进入日本网

这些问题既困扰着我们,也带来了研究的乐趣。本文将以推荐系统的解释性为引,和大家分享我们探索到的部分答案,希望能对可解释性研究起到抛砖引玉的作用。 内容来自进入日本

目标及定义

进入日本,www.wokou.net.cn

可解释机器学习的目标问题可以从2017年引起广泛关注的机器学习炼金术之争谈起。NIPS 2017年时间检验奖(Test-of-Time Award)获得者Rahimi在发表获奖感言的时候表示,现在的机器学习已经越来越像炼金术了。其实如果只是简单应用炼金术的结果倒也无妨,可是将类似炼金术的机器学习结果用于社交媒体甚至大选是不够严谨和周密的,这也让他感到不安。他的发言引起了很大的关注和争论。他的质疑中提出的两个问题,我们将它们总结为透明度和信任度。

本文来自进入日本网

关于可解释机器学习目标,最普遍的看法是提高机器学习方法的透明度。以深度学习方法为例,很多人对深度神经网络进行调试时,都将其看作黑匣子。我们只能看懂黑匣子的输入输出,很难理解黑匣子中的工作原理。这就造成了机器学习模型结果难以预测(能否点石成金?)、难以调试等问题,最终影响对机器学习模型的深入理解及结果的进一步提高。另一个目标是提高人们对于机器学习算法的信任度。在医疗、金融、军事、政治等关键领域,机器学习的结果影响甚大,而可解释机器学习则可以帮助决策者决定是否信任机器学习的结果。 日本最新动态-www.wokou.net.cn

这些目标都和模型密切相关,我们将它们统称为模型可解释性。如果只考虑这类目标,就忽视了解释中非常关键的一环:用户(解释对象)。 copyright 进入日本

当我们着眼于用户,就发现解释不仅要帮助我们提高对模型的理解,它本身的可读性也很关键。如果解释过于复杂,理解起来耗时耗力、需要极强的机器学习知识,这就和增强理解的初衷就背道而驰了。解释本身需要简明扼要、具有洞察力和高可读性,否则和直接打印神经网络每个参数输出没有本质区别。 日本最新动态-www.wokou.net.cn

在一些领域,我们需要把结果呈现给普通用户看。例如推荐一本书给用户,如果能用通俗易懂的解释让用户了解到为什么会推荐这本书给他,可以极大地提高推荐的有效性(帮助用户快速做出是否看书的决策)甚至推荐的说服力(提高用户阅读这本书的可能性)。这对用户和广告商都有重要的应用意义,,但是目前学术界对这方面的探讨比较少。我们认为将用户更多地纳入可解释机器学习的考虑范畴,将极大提高可解释方法的应用和研究价值。可读性、有效性、说服力这类目标,我们统称为解释质量。上述讨论的可解释机器学习两大类目标可以总结如下图所示。

copyright 进入日本

日本最新动态-www.wokou.net.cn

本文来自进入日本网

可解释机器学习的目标:模型可解释性(模型导向)以及解释质量(用户导向)

进入日本,www.wokou.net.cn

这些目标相辅相成,又相互制约。研究表明,提高透明度有助于提升解释的说服力;而透明度和可读性却需要协调平衡,一个面面俱到、帮助人们深入理解模型的解释(透明度高)很可能可读性较低,因为人们需要花长时间理解;有效性旨在帮助用户做最适合他们的决策,这和说服用户接受某种决策也有相互矛盾之处。不同目标如何协调平衡,主要取决于具体的应用场景。

内容来自进入日本

基于上述理解,我们可以尝试对可解释推荐下个定义。如果需要更细地进行定义,就要考虑具体应用及目标。如果更侧重模型可解释性(模型导向),就要求论据能够帮助用户更好地理解模型行为;如果更注重解释质量中的说服力,则要求论据能够增加用户接受推荐物品的概率;如果更注重解释质量中的有效性,则要求论据能够帮助用户做出更好地决定。

本文来自进入日本网

下图是一个偏重解释有效性的例子。和偏重说服力的相比,它不仅会突出餐馆值得一去的原因(担担面好吃),还会指出餐馆的一个缺点(价格偏高),帮助用户做出更好的决定。 本文来自进入日本网

进入日本网(www.wokou.net.cn)

进入日本网(www.wokou.net.cn)

可解释推荐偏重解释有效性的例子 本文来自进入日本网

可解释推荐流程 进入日本,www.wokou.net.cn

下面,我们回归到可解释推荐的场景下,看看现在可解释方法的主要流程是什么样的。这些流程里面主要涉及到推荐中的几个关键要素:用户集合U、物品集合V、被解释的推荐系统f(u,v)、推荐系统的推荐物品集合V',解释模块以及其输出的解释z。

日本最新动态-www.wokou.net.cn

最常见的一种流程是后处理(Post-hoc)。如下图所示,后处理的方法是在推荐结果已经给出后再进行解释,解释内容不受推荐系统f(u,v)的影响,即使换了一个推荐系统,只要给定同一个用户和物品,解释都是一样的。这种方法主要优化的是解释质量(希望生成可读性、有效性高甚至具有说服力的解释),但是模型解释性较差,同时也比较容易实现,适合面向不懂机器学习的普通用户进行解释。主要应用场景包括广告电商平台、新闻、音乐、电影推荐等等。 本文来自进入日本网

内容来自进入日本

进入日本,www.wokou.net.cn

可解释推荐后处理流程 内容来自进入日本

后处理方法主要研究解释文本生成,分为三种方法:(1)基于规则;(2)基于检索;(3)基于生成式模型。 日本最新动态-www.wokou.net.cn

基于规则是指由解释方法设计者事先给定一些简单模板(例如“N个微博用户都喜欢这个商品”),算法只负责对模板中涉及的内容根据规则进行填充。基于检索的方法是由解释方法设计者规定解释集合,算法负责对解释集合进行排序,挑选排在最靠前的解释输出给用户。例如给用户推荐书时,解释集合规定为用户曾经看过的书,此时解释模板为“看过X的用户都很喜欢这本书”,算法只需要从集合中根据用户的兴趣及书的相似度挑选一本放入解释即可。

内容来自进入日本

基于规则和基于检索的方法在生成解释文本时,都需要模板,难免让用户觉得千篇一律、缺乏惊喜。有没有办法从数据中进行学习,进一步提高解释的多样性和说服力呢?我们组在这方面做了一些研究,发现可以从数据中学习,综合广告商提供的文案和被展示广告的点击率,利用改进的序列生成技术自动写出广告文案,这种方法已经被应用在微软的搜索广告中。下表展示了我们的广告生成结果,可以看到不仅有一些具有说服力的话(如“Apply today & find your perfect job!”),而且生成结果多种多样。

日本最新动态-www.wokou.net.cn

进入日本网(www.wokou.net.cn)

进入日本网(www.wokou.net.cn)

生成式模型自动写出的广告解释文案

日本最新动态-www.wokou.net.cn

可解释推荐的第二种流程是嵌入式(Embedded)。嵌入式的方法把解释模块融入到推荐系统的构建中(如下图所示)。解释模块往往对物品的特征进行选择,将对推荐准确性影响最大的物品挑选出来作为解释。这里面用作解释的物品特征往往是一些词组(“屏幕清晰”)、语句(“这本书自2018年开始在全世界销量5亿本,是历史上销量最高的一本书。”)或者是图片。嵌入式的方法和后处理的相比,具有很高的模型解释性,但是难以确保解释质量,例如,难以保证解释之间的连贯性及一致性,因此比较适合研究人员及算法开发人员。 本文来自进入日本网

本文来自进入日本网

本文来自进入日本网

可解释推荐嵌入式流程

进入日本,www.wokou.net.cn

文章采编自互联网,如有侵犯版权,请联系进入日本网,本网将立即处理。

PS:本文仅代表作者本人观点,与进入日本网立场无关。其原创性以及文中陈述文字和内容未经进入日本网证实,对本文以及其中全部或者部分内容、文字、图片、视频的真实性、完整性、及时性进入日本网不作任何保证或承诺,请读者仅作参考,并请自行判断相关内容。

------分隔线----------------------------
后文行走全球万里,领略山巅壮阔,这位硅谷极客要与COLMO攀登前所未有的高峰导读:人们对Suresh的第一印象不尽相同,假如仅仅截取他日常工作生活中的片段,或许没有人能准确答出这位沉静、彬彬有礼的印度裔硅谷精英的从业领域。 没错,从笔挺地站在办公桌前的办公习惯,到背上背包说走就走的登山远足,再到恪守数十年的素食主义,甚至“苏万里”的中文名,都让Suresh成了一个引人入胜的谜。。。。
推荐内容
  • 中国改革开放“也是改变世界的历史性

    新华社巴黎12月2日电(记者应强、韩茜)法国前总统弗朗索瓦·奥朗德近日在接受新华社记者采访时表示,中国改革开放不仅对中国产生了重要影响,也是改变世界的历史性决定...

  • 萧中的美食是许多几何同学初中尽力

    今天下午两点,萧山中学80周年校庆启动暨校友会成立仪式于学校行政楼报告厅正式举行。历任校长陈仲仪先生、朱锦伟先生、贾献国先生、夏国良先生及现任校长孙戎先生,五任...

  • 邻近中国的国家很多,为何国人都喜欢

    随着人民经济条件的提高,大家现在在闲暇之余都会选择出门游玩,而经济条件允许的人则会选择跑的远一些:出国旅行。而日本作为我们的邻国,是一个有自己文化特色的国家,吸...

  • iOS好游推荐:2月份最不容错过的

    上个月都有哪些值得一玩的 iOS 游戏?我们都为你精心挑选出来了。 进化之地2 Evoland 2 45 元 PC 移植的经典致敬之作,和前作一样,依旧是集合了...

  • 武汉最人气海鲜自助餐厅盘点,收好不

    一群吃货聚会最怕啥,吃不饱吃不好?吃自助去! 繁多的海鲜,鲜美的刺身、琳琅满目的甜品台...各种口味,各种菜式,无论你是神马口味,总有一道菜属于你。送你武汉最划...

  • 全球 25 个少女心爆棚的粉红色自

    全球 25 个少女心爆棚的粉红色自拍圣地,你去过吗 2016-12-09 15:13 来源:璞缇客 设计/少女/酒店 原标题:全球 25 个少女心爆棚的粉红色自...

淘宝日本馆