人们更喜欢用机器人来自我解释简短的摘要并没有帮助他们王羽泽
人们更喜欢用机器人来自我解释-简短的摘要并没有帮助他们
人工智能正以多种方式进入我们的生活,包括智能手机,家庭,汽车。这些系统可以帮助人们进行约会,开车甚至诊断疾病。但是,随着AI系统继续在人们的生活中发挥重要的协作作用,一个自然的问题是:我可以信任他们吗?我怎么知道他们会做我期望的?
可解释性AI是AI研究的一个分支,旨在研究如何使人工代理对其人类用户更加透明和值得信赖如果机器人和人要一起工作,那么可信度至关重要。XAI致力于开发人类认为值得信赖的AI系统,同时还能出色地完成设计任务。
在UCLA的视觉,认知,学习和自主中心,我们和我们的同事对哪些因素使机器更值得信任以及不同的学习算法如何使信任产生了兴趣。我们的实验室使用一种知识表示形式,人类可以更轻松地理解它。这自然有助于解释和透明度,从而提高人类用户的信任度。
在我们的最新研究中,我们尝试了机器人可以向人类观察者解释其动作的不同方式。有趣的是,引起人们最大信任的解释形式与产生最佳任务性能的学习算法并不对应。这表明性能和解释并不是天生就相互依赖的-单独优化一项可能不会为另一项带来最佳结果。这种差异要求机器人设计要兼顾良好的任务表现和可信赖的解释。
教学机器人
在进行这项研究时,我们小组对两件事感兴趣。机器人如何最好地学习执行特定任务?那么,人们如何回应机器人对其动作的解释?
我们教了一个机器人,通过人类演示来学习如何打开带安全锁的药瓶。一个人戴着触觉手套,记录了打开瓶子时人的手的姿势和力量。这些信息帮助机器人以两种方式了解人类的行为:象征性和触觉性。符号表示您的行为的有意义的表示形式:例如,单词“ grasp”。触觉是指与您的身体姿势和动作相关的感觉:例如,手指并拢的感觉。
随着时间的流逝,机器人打开药瓶的象征性和触觉性解释。第一行是执行任务的机器人视频的静止图像。中间一行显示了该任务的符号说明。底行显示了触觉说明。
首先,机器人学习了一个符号模型,该模型对完成打开瓶盖任务所需的步骤顺序进行了编码。其次,机器人学会了一种触觉模型,该模型使机器人可以在人类演示者的角色中“想象”自己,并预测人在遇到特定姿势和力量时会采取什么动作。
事实证明,当结合符号和触觉组件时,机器人能够达到最佳性能。与单独使用两个机器人相比,使用机械手了解执行任务的步骤知识和实时感应的效果更好。
赢得人的信任
既然机器人知道该怎么做,它如何向人解释其行为?这种解释在多大程度上促进了人们的信任?
为了解释其动作,机器人可以利用其内部决策过程以及其行为。符号模型提供了机器人动作的逐步描述,而触觉模型则提供了对机器人抓手“感觉”的感觉。
在我们的实验中,我们为人类增加了一个额外的解释:在机器人完成尝试打开药瓶后的文字记录,提供了摘要。我们想看看摘要描述是否能与逐步符号解释一样有效,以获得人的信任。
我们要求150名人类参与者观察机器人试图打开药瓶的过程。然后,机器人为每个小组对任务进行了不同的解释:符号,逐步,触觉-手臂的位置和动作,文本摘要或符号触觉一起。基线小组仅观察到试图打开瓶子的机器人的视频,没有提供任何其他解释。
我们发现,提供符号解释和触觉解释都可以赢得最多的信任,而符号部分的贡献最大。有趣的是,以文本摘要形式进行的解释并不能带来更多的信任,而不仅仅是观看机器人执行任务,这表明人类更喜欢机器人对自己的工作进行逐步解释。
加州大学洛杉矶分校的研究人员在通过观察人类示威者学会了如何打开药瓶之后对机器人进行了测试。信用:加州大学洛杉矶分校萨穆里理工学院,CC BY-ND
为性能和信任而设计
这项研究最有趣的结果是,使机器人表现出色的原因与使人们认为机器人值得信赖的原因不同。机器人需要符号和触觉组件才能做到最好。但这是使人们最信任机器人的象征性解释。
这种差异突出了未来AI和机器人技术研究的重要目标:专注于追求任务性能和可解释性。只专注于任务绩效可能不会导致机器人很好地说明自己。我们的实验室使用混合模型来提供高性能和可信赖的解释。
性能和解释并不能自然地相辅相成,因此在构建AI系统时,这两个目标从一开始就必须成为优先事项。这项工作代表着系统研究人机关系如何发展的重要一步,但是还有很多工作要做。未来研究的挑战性步骤将是从“我相信机器人会做X”到“我相信机器人”。
为了使机器人在人们的日常生活中占有一席之地,人类需要信任他们的机器人同行。理解机器人如何提供解释以增进人的信任是朝着使人与机器人一起工作迈出的重要一步。
-
最火笔仙3未映先火重庆妹子效仿剧照引热议李琼黄立成张家界李路张美娜Rra
《笔仙3》未映先火 重庆妹子效仿剧照引热议上海中油阳光大酒店(5星)31楼观景宴会厅 [摘要]定档于4月4日“世纪惊魂日”全国公映的恐怖电影《笔仙惊魂3》于2月27日曝光了一组校园图书馆组照。重庆妹子光永亮太效仿《笔仙
2024-03-20 19:53
-
最火孙艺珍生了一张倾国倾城的脸可她这片却比她王洛宾陈冠蒲苏有朋代青塔娜陈慧琳Rra
孙艺珍:生了一张倾国倾城的脸,可她这片,却比她的脸更让人着迷孙艺珍:生了一张倾国倾城的脸,可她这片,却比她的脸更让人着迷2000年,18岁的孙艺珍正式踏入演艺圈。 虽然银幕处女作《秘密》并没有激起什么水花,但她
2024-03-20 18:17
-
最火童年第一美每个明星都有一个熊孩子的过去王家珧凯丽金王壮翼势力王铁峰Rra
童年第一美 每个明星都有一个熊孩子的过去每个人都有童年,明星也不例外,明星们无论男女,小时候都有做熊孩子的过去,有的明星天生丽质从小美到大,但也有人原本是丑小鸭,一起看看明星们的童年照。全智贤看到全智贤
2024-03-20 18:15
-
最火私人订制曝贺岁女神特辑白百何李小璐争艳车继铃峨眉山陈冠宇巩贺张震岳Rra
《私人订制》曝贺岁女神特辑 白百何李小璐争艳/放开按钮后对准的零线可能会有所移动腾讯娱乐讯 继2010年《非诚勿扰2》之后,时隔三年,冯氏贺岁喜剧重磅回归,王硕、冯小刚(微博)、葛优金三角再聚,联手打造2013年贺岁新作
2024-03-20 17:17
-
最火陈佩斯时隔20余年回归央视舞台担任综艺首陈林双辽沈雁丁文俊杨培安Rra
陈佩斯时隔20余年回归央视舞台 艾晴晴担任综艺首拾叁乐团发导师陈佩斯经典作品回顾(来源:桂林生活娱乐)已在2012伦敦残奥会上夺得1枚银牌和1枚铜牌 我们的实验机在性能上那是没法对照的倪萍陈佩斯朱
2024-03-20 16:55
-
最火黑寡妇撤档重新上映档期暂未确定具体情况戴薇原平张谦卑炫龙愉慧Rra
黑寡妇撤档 重新林佳颖上映档陈少云期暂未确定 具体情况受新冠疫情影响,原定5月1日在北美上映漫威新片《黑寡妇》正式撤档,重新上映档期暂未确定。受新冠疫情影响,原定5月1日在北美上映漫威新片《黑寡妇》正式撤档,
2024-03-20 12:36