AI智能体使用日常语言生成解释其行为的原理
时间:2019-10-13 12:57

  智能体,可以实时自动生成自然语言解释,以传达其行为背后的动机。这项工作旨在让人类与AI智能体或机器人合作,确保智能体正在正确地执行任务,并且可以解释错误或错误的行为。

  智能体还使用非专家能够理解的日常语言。这些解释,或研究人员所称的“”,旨在引起人们的共鸣,并激发人们对那些可能在工作场中或社交场合中的机器人的信任。

  “由于人工智能遍及我们生活的方方面面,因此非常需要以人为本的人工智能设计,使日常用户可以解释如同黑盒子的人工智能系统。我们需要理解基于语言的解释的作用以及如何让人类认识到它们。”

  研究人员开展了一项参与者研究,以确定AI智能体能否提供模仿人类反应的理论依据。观众观看智能体玩视频游戏Frogger,然后根据每个人对人工智能游戏动作的描述程度,以描述AI移动的好坏对屏幕上列出的三个原理进行排序。

  对于每一步的三个匿名判断,包括人类生成的响应,AI智能体生成的响应和随机生成的响应,参与者优先选择人类生成的理论,但AI生成的响应紧随其后。

  Frogger为研究人员提供了在“顺序决策”中训练AI的机会,这是一项重大的研究挑战,因为智能体已经做出的决策会影响未来的决策。因此,研究人员表示,向专家解释推理链是困难的,在与非专家交流时更是如此。

  参与者理解Frogger的目标是让青蛙安全回家,而不会被移动的车辆撞到或在河里淹死。向上,向下,向左或向右移动的简单游戏机制允许参与者看到AI正在做什么,并评估屏幕上的基本原理是否清楚地证明了移动的合。

  AI生成的理论,在参与者中排名较高,表现出对条件和适应性的认可的理论,以及那些传达对未来的认识并为其规划的理论。冗余信息只是陈述了明显特征或错误地描述,这会产生负面影响。

  “这个项目更多的是为了了解人类对这些人工智能系统的认知和偏好,而不是建立新技术,”Ehsan表示,“可解释性的核心是意义建构。我们试图理解这个人为因素。”

  另一项相关研究,研究人员决定设计他们的AI智能体,使其能够提供两种不同类型的原理中的一种:

  在第二项研究中,参与者在观看AI玩Frogger后才获得AI生成的原理。他们被要求在人工智能出错的情况下选择他们更喜欢的答案,他们不知道原理分为两类。

  四分之三的参与者赞成分类为“全貌”类别的答案。回应显示,人们欣赏人工智能对未来步骤的思考,而不仅仅是思考当下的事情,这可能会让他们更容易犯另一个错误。人们也想知道更多,这样他们就可以直接帮助人工智能纠正错误行为。

  互动计算教授Mark Riedl表示,“对人工智能机器人的和偏好的理解,为我们提供了一套强大的可操作的见解,可以帮助我们设计出更好的以人为本,的、自主的智能体。”

  研究的未来可能方向将把研究结果应用于各种类型的自主智能体,让它们根据手头的任务做出反应,例如它们可以应用在紧急响应救援,或是在教室帮助教师处理任务。

  不懂编程没关系,邀请您来学AI活动概述:本活动是现场,由知名AI教育专家、金门创新学院院长、Android技

  根据CINNO Research统计数据表明,2015-2018年全球市场智能机面板内嵌式搭载率逐渐...

  他们使用的 SPOT 系统,由南大学社会人工智能中心的研究人员建造,先通过人工标记,以及无人机自...

  Targeted Dropout不再像原有的Dropout那样按照设定的比例随机丢弃部分节点,而是对...

  从人工智能技术应用曲线来看,人脸识别技术正处于爆发阶段,应用价值逐步呈现。人脸识别在LFW、Mega...

  本轮科技和产业,从一开始大家聚焦的新能源和新通讯,慢慢地聚焦到以人工智能、大数据以及物联网为核心...

  任何机器学习模型都是基于历史数据开发出来的,而历史数据反映的是过去的商业状况,所以模型其实是有保质期...

  去年年底,喜马拉雅AI音箱小雅Nano宣布全球发售时,1万台现货开售1分钟即被抢购一空,首批10万台...

  联发科P65处理器基于12nm工艺,八核心设计,由两颗2.0GHz的A75核心与六颗1.7GHz的A...

  用过去的方法来评估员工的绩效,意味着要从几套不同的人力资源部门记录中挖掘出每份直接报告中蕴含的信息。

  从粗放式规模增长到精细化运营,经历数年的快速发展后,我国移动支付市场已步入下半场,回归支付业务本源,...

  整体来看,拓斯达、今际、三丰智能3家企业净利预增;智慧松德预计上半年净利润559.32万至149...

  7月22日(下周一),科创板首批25家公司将在所鸣锣上市,成为中国资本市场的新生力量。 从201...

  随着5G、人工智能和物联网时代的到来,传统的云计算技术已经无法满足人工智能终端“大连接、低时延、大带...

  听声辨人,利用声纹进行解锁,这种技术已广泛应用,人类的声音含有该个体的一定特征,从而可以进行区分。

  7月9-10日,由国泰君安证券与中移(上海)产业研究院、浦发硅谷银行共同主办的国泰君安2019年信息...

  据国家发改委网站消息,经、国务院同意,国家发展委、商务部于2019年6月30日发布第27号...

  无人科技背后的大数据、AI算法等科技还促进建立了以消费者个性化需求为核心的C2M反向定制、物流价...

  铁“智慧出行”正在悄然改变着春运概念,从“走得了”到“走得好”,由“出行”变为“欢乐行”。

  近期,万可带有推压键的TOPJOB®S轨装式接线端子系列成功进入宝马(BMW)全球批准采购清单,成为...

  7月15日,“G往开来,为AI出行”——长城汽车GTO全域智慧生态战略在哈弗技术中心正式发布。

  就像在其他行业一样,在音乐领域,AI也在帮助服务自动化,在庞大的数据集中发现模式和洞见,并帮助提高创...

  许多现代智能手机所采用的复杂人脸识别技术有朝一日可能会得到高科技升级,其声音和外观都出人意料地低技术...

  Facebook AI又出新作,在神经网络中加入一个结构化存储器层,极大扩充了网络容量和参数数量,性...

  如果未来的你将踏上机器学习工程师这条道,那你很大可能将遇到和机器学习工程师 Daniel Bour...

  机器视觉的研究始于20世纪50年代二维图像的模式识别[1],它起初被设计用来代替人眼从事检测识别的工...

  根据战略合作协议,双方将以建设5G新平台为目标,充分运用5G、4K超高清视频,虚拟现实(VR),...

  来自学术界、工业界、投资界的重磅嘉宾齐聚CCF-GAIR 2019 AI芯片专场共同探讨芯片的前沿技...

  数量爆发式增长的背后,Wi-Fi、蓝牙、Zigbee三大无线连接技术正上演一场“争霸赛”。本文通过对...

  构建在区块链之上的“AI机器人管家”Jarvis+,在满足社群运营的基础之上,将用户和平台进行链接,...

  Facebook 人工智能副总裁Jérôme Pesenti,首次在公开中亮相,表达了对日益增长...

  7月9日,《中国“智能+”社会发展指数报告2019》(以下简称“《报告》”)在2019(第十八届)中...

  据财新网报道称,“自2019年3月开始,伟创力长沙一期项目的生产已经困顿。2019年5月,伟创力...

  未来的学术出版以及各类书籍,将不再只是人为创造,而是有更多形式出现,包括了混合人机文本生成的书籍或完...

  开发出了全球领先的下一代微特征识别FVR技术,把的手掌脉络“微特征”编码为高密度、高容量的超级“...

  自然语言处理(NLP)和自然语言理解,特别是语音转文字技术将成为2019年企业AI中最主要的产品呈现...

      大红鹰娱乐