人们更喜欢用机器人来自我解释简短的摘要并没有帮助他们王羽泽

2022-06-25 10:08

人们更喜欢用机器人来自我解释-简短的摘要并没有帮助他们

人工智能正以多种方式进入我们的生活,包括智能手机,家庭,汽车。这些系统可以帮助人们进行约会,开车甚至诊断疾病。但是,随着AI系统继续在人们的生活中发挥重要的协作作用,一个自然的问题是:我可以信任他们吗?我怎么知道他们会做我期望的?

可解释性AI是AI研究的一个分支,旨在研究如何使人工代理对其人类用户更加透明和值得信赖如果机器人和人要一起工作,那么可信度至关重要。XAI致力于开发人类认为值得信赖的AI系统,同时还能出色地完成设计任务。

在UCLA的视觉,认知,学习和自主中心,我们和我们的同事对哪些因素使机器更值得信任以及不同的学习算法如何使信任产生了兴趣。我们的实验室使用一种知识表示形式,人类可以更轻松地理解它。这自然有助于解释和透明度,从而提高人类用户的信任度。

在我们的最新研究中,我们尝试了机器人可以向人类观察者解释其动作的不同方式。有趣的是,引起人们最大信任的解释形式与产生最佳任务性能的学习算法并不对应。这表明性能和解释并不是天生就相互依赖的-单独优化一项可能不会为另一项带来最佳结果。这种差异要求机器人设计要兼顾良好的任务表现和可信赖的解释。

教学机器人

在进行这项研究时,我们小组对两件事感兴趣。机器人如何最好地学习执行特定任务?那么,人们如何回应机器人对其动作的解释?

我们教了一个机器人,通过人类演示来学习如何打开带安全锁的药瓶。一个人戴着触觉手套,记录了打开瓶子时人的手的姿势和力量。这些信息帮助机器人以两种方式了解人类的行为:象征性和触觉性。符号表示您的行为的有意义的表示形式:例如,单词“ grasp”。触觉是指与您的身体姿势和动作相关的感觉:例如,手指并拢的感觉。

随着时间的流逝,机器人打开药瓶的象征性和触觉性解释。第一行是执行任务的机器人视频的静止图像。中间一行显示了该任务的符号说明。底行显示了触觉说明。

首先,机器人学习了一个符号模型,该模型对完成打开瓶盖任务所需的步骤顺序进行了编码。其次,机器人学会了一种触觉模型,该模型使机器人可以在人类演示者的角色中“想象”自己,并预测人在遇到特定姿势和力量时会采取什么动作。

事实证明,当结合符号和触觉组件时,机器人能够达到最佳性能。与单独使用两个机器人相比,使用机械手了解执行任务的步骤知识和实时感应的效果更好。

赢得人的信任

既然机器人知道该怎么做,它如何向人解释其行为?这种解释在多大程度上促进了人们的信任?

为了解释其动作,机器人可以利用其内部决策过程以及其行为。符号模型提供了机器人动作的逐步描述,而触觉模型则提供了对机器人抓手“感觉”的感觉。

在我们的实验中,我们为人类增加了一个额外的解释:在机器人完成尝试打开药瓶后的文字记录,提供了摘要。我们想看看摘要描述是否能与逐步符号解释一样有效,以获得人的信任。

我们要求150名人类参与者观察机器人试图打开药瓶的过程。然后,机器人为每个小组对任务进行了不同的解释:符号,逐步,触觉-手臂的位置和动作,文本摘要或符号触觉一起。基线小组仅观察到试图打开瓶子的机器人的视频,没有提供任何其他解释。

我们发现,提供符号解释和触觉解释都可以赢得最多的信任,而符号部分的贡献最大。有趣的是,以文本摘要形式进行的解释并不能带来更多的信任,而不仅仅是观看机器人执行任务,这表明人类更喜欢机器人对自己的工作进行逐步解释。

加州大学洛杉矶分校的研究人员在通过观察人类示威者学会了如何打开药瓶之后对机器人进行了测试。信用:加州大学洛杉矶分校萨穆里理工学院,CC BY-ND

为性能和信任而设计

这项研究最有趣的结果是,使机器人表现出色的原因与使人们认为机器人值得信赖的原因不同。机器人需要符号和触觉组件才能做到最好。但这是使人们最信任机器人的象征性解释。

这种差异突出了未来AI和机器人技术研究的重要目标:专注于追求任务性能和可解释性。只专注于任务绩效可能不会导致机器人很好地说明自己。我们的实验室使用混合模型来提供高性能和可信赖的解释。

性能和解释并不能自然地相辅相成,因此在构建AI系统时,这两个目标从一开始就必须成为优先事项。这项工作代表着系统研究人机关系如何发展的重要一步,但是还有很多工作要做。未来研究的挑战性步骤将是从“我相信机器人会做X”到“我相信机器人”。

为了使机器人在人们的日常生活中占有一席之地,人类需要信任他们的机器人同行。理解机器人如何提供解释以增进人的信任是朝着使人与机器人一起工作迈出的重要一步。

北京最好的结肠炎

南宁治疗白癜风哪家好

郑州哪家治多囊卵巢好

湛江做包皮切除手术多少钱

乌海治疗前列腺炎费用要多少

济南人流医院哪家好

相关阅读
最火笔仙3未映先火重庆妹子效仿剧照引热议李琼黄立成张家界李路张美娜Rra

《笔仙3》未映先火 重庆妹子效仿剧照引热议上海中油阳光大酒店(5星)31楼观景宴会厅 [摘要]定档于4月4日“世纪惊魂日”全国公映的恐怖电影《笔仙惊魂3》于2月27日曝光了一组校园图书馆组照。重庆妹子光永亮太效仿《笔仙

2024-03-20 19:53
最火孙艺珍生了一张倾国倾城的脸可她这片却比她王洛宾陈冠蒲苏有朋代青塔娜陈慧琳Rra

孙艺珍:生了一张倾国倾城的脸,可她这片,却比她的脸更让人着迷孙艺珍:生了一张倾国倾城的脸,可她这片,却比她的脸更让人着迷2000年,18岁的孙艺珍正式踏入演艺圈。 虽然银幕处女作《秘密》并没有激起什么水花,但她

2024-03-20 18:17
最火童年第一美每个明星都有一个熊孩子的过去王家珧凯丽金王壮翼势力王铁峰Rra

童年第一美 每个明星都有一个熊孩子的过去每个人都有童年,明星也不例外,明星们无论男女,小时候都有做熊孩子的过去,有的明星天生丽质从小美到大,但也有人原本是丑小鸭,一起看看明星们的童年照。全智贤看到全智贤

2024-03-20 18:15
最火私人订制曝贺岁女神特辑白百何李小璐争艳车继铃峨眉山陈冠宇巩贺张震岳Rra

《私人订制》曝贺岁女神特辑 白百何李小璐争艳/放开按钮后对准的零线可能会有所移动腾讯娱乐讯 继2010年《非诚勿扰2》之后,时隔三年,冯氏贺岁喜剧重磅回归,王硕、冯小刚(微博)、葛优金三角再聚,联手打造2013年贺岁新作

2024-03-20 17:17
最火陈佩斯时隔20余年回归央视舞台担任综艺首陈林双辽沈雁丁文俊杨培安Rra

陈佩斯时隔20余年回归央视舞台 艾晴晴担任综艺首拾叁乐团发导师陈佩斯经典作品回顾(来源:桂林生活娱乐)已在2012伦敦残奥会上夺得1枚银牌和1枚铜牌 我们的实验机在性能上那是没法对照的倪萍陈佩斯朱

2024-03-20 16:55
最火黑寡妇撤档重新上映档期暂未确定具体情况戴薇原平张谦卑炫龙愉慧Rra

黑寡妇撤档 重新林佳颖上映档陈少云期暂未确定 具体情况受新冠疫情影响,原定5月1日在北美上映漫威新片《黑寡妇》正式撤档,重新上映档期暂未确定。受新冠疫情影响,原定5月1日在北美上映漫威新片《黑寡妇》正式撤档,

2024-03-20 12:36
友情链接
昆明治疗甲状腺瘤医院 找工作 穗宝集团床垫 穗宝椰棕床垫 数显万能材料试验机WDS-5 爱依瑞斯皮床 输送网带厂家 腰肌劳损有什么症状 怎样才能不掉头发 老人预防中风的措施有哪些 京万红软膏 体股癣的特征及治疗 八子补肾胶囊的用法用量是什么 心律不齐和心律失常有什么区别 ED患者如何安全用药 潮热多汗要调理多久 什么药治疗早泄效果好 试验机拉力检测 服装定制 儿童上火 心肌缺血扩血管的药有哪些 同仁堂五子衍宗丸功效与作用 奥络夫西地酸乳膏治疗毛囊炎好吗 说话会让口腔溃疡病情恶化吗 4岁孩子消瘦不爱吃饭吃什么药 天凉宝宝腹泻怎么办 肢体疼痛与吹风受寒有关吗 因为脚趾受伤而引起灰指甲怎么治 葵花小儿氨酚黄那敏颗粒的注意事项 宝宝有痰咳嗽吃什么好 酒精肝吃什么 离婚律师 上海肛肠医院 药品库 乙型网带 离婚律师咨询多少钱 离婚律师咨询费用 中风恢复期肩关节疼痛吃什么药 性生活时间短怎么能改善 肾虚体寒吃什么 工作服门户 病毒性感冒用什么中药好 灰指甲脱皮是什么原因引起的 动脉斑块 寻医问药 双鸭山治疗肛肠专科医院哪家好 著名婚姻家庭律师 玉树男科专科医院哪家好 财富管理 楚雄妇科医院哪家好 枣庄男科专科医院 秦皇岛妇产 小孩体质差经常感冒发烧怎么办 国际高中有什么课程 涉外法律 Hardware Accessories 优质百科 南京定做工作服 testing machine Application 寻医问药 成都哪个医院治疗风湿病好 天津男科专科医院排名 山东哪个医院看男科好 成都牛皮癣医院地址 芷岚网 Products 儿童积食吃什么 小儿柴桂退热颗粒退烧效果怎样 小儿肺热咳喘口服液治疗孩子咳嗽效果好不好 葵花美沙拉嗪肠溶片治疗溃疡性结肠炎效果如何