陈根:对机器人大打出手,是关于什么的问题?

文/陈根

不论接受与否,人工智能都已经与我们的生活深度融合。一方面,人工智能给人们生活生产带来了效率和便捷,推动社会经济持续发展;另一方面,人工智能本质上作为一种技术,在给产业带来颠覆和革命的同时,也给人们既有的伦理认知等带来了挑战。

其中,“机器伴侣”作为未来智能机器人发展最广阔的领域,已经越来越多地介入人们的生活,扮演助手、朋友、伴侣甚至家人的角色。当人们不可避免要进入人机共处的时代,不可避免地要与机器人比邻而居”时,一个不可避免的全新的问题随之诞生——我们如何与机器人相处?

当机器人越来越被赋予人的温度时,除了反思人机交互带来的人与人的关系改变、人与社会的关系改变外,面对人与机器这一新生的关系,我们又该作何回应?

人与机器人,如何相处?

人工智能,顾名思义,是机器对人类智能的功能模拟。当下,人工智能已经渗透进了人们社会生活的方方面面。每日打开的新闻是人工智能为我们做的算法推荐;网上购物时,首页上显示的是人工智能为我们推荐的最有可能感兴趣、最有可能购买的商品。

这些智能化的技术成果为人们的生活提供了便利,这是人工智能时代下,人类与世界连接的方式。但这些技术又与过去的任何一种农业时代技术或工业时代技术不同。

工业社会时代,人对于技术的敬畏是天然的、明显的。技术被看作是一种具有阶层和权力属性的工具,掌握技术的人通常被赋予更高的权力,保持在一个更高的社会阶层和地位上。但是,在人工智能时代下,智能技术覆盖融合着人们的生活,所以对于技术的理解和驯化,调试人和技术的关系成为当下研究的基本范式

对于各种陪伴机器人,不论是无形的智能软件或智能音箱,还是将来可能出现的外形上能以假乱真的人形机器人,都是在功能上可以与人交互的智能体或者行动者。在这样的背景下,“机器人”成为人们可能联想到的某种与人的“形象”有关的对象或实体。它们是可以与人产生交互关系的对象,而不仅仅是某种纯粹的工具或机器

事实上,任何一种实体,只要具有了人的形象,或者与人产生交互,它就获得了某种特殊的意义,如历史人物的雕像、艺术家创造的人物雕像等。在面对这些实体时,人们的内心往往会充斥某种或崇敬或亲切的情感。

而高度发达的智能机器人不仅将会有着“人的形象”,而且更是逐渐具备或展现许多人的属性:符合人类礼仪的言谈举止、较快的推理与思维能力、对人类的法律与道德原则的遵守等。

随即而来的一个问题是:我们该如何与机器人相处?人与陪伴机器人的关系应该像“我-你”关系那样,建立在相互平等与尊重的基础上,还是当人们心情不好的时候,可以对陪伴机器人大打出手?

2017年末,在奥地利的一个科技博览会上,塞尔吉·桑托斯博士开发的两性机器人萨曼莎就被人反复猥亵,并受到暴力对待,直接导致萨曼莎的两根手指被折断。但迄今为止,这类问题必然要遇到的一个麻烦是,机器人没有意识,甚至并不真正知晓它自己是机器人即便它被人们赋予人的形象和人的属性,但机器人的行为终究还是计算的结果。

在机器人没有自我意识之前,无论人们如何对待它,其所呈现的喜感或悲伤都是人设计给人看的,机器人自身并没有可以真实感受喜怒哀乐的内心。因此,人们可不可以任凭自己的喜怒哀乐随意地对待机器人?目前并不直接涉及交互意义上的人与机器人之间的伦理关系,而主要取决于人们在道德上是否接受这种行为。

尽管这些道德限制需要依据的事实基础目前尚不明晰,但至少可以认定的是,以强人工智能技术、基因工程技术等为基础的机器人能够享有作为道德承受体的道德地位。事实上,早在2017年,沙特政府就正式授予机器人索菲亚“沙特公民”身份。而对于未来的两性机器人,更是有可能进入人们的生活,扮演人们生活中的重要关系角色。

显然,从避免技术滥用的角度来看,也应该展开必要的使用规范性研究。我们不仅要尊重自己身上的人性,更要尊重机器人身上的人性,以尊重的态度对待机器人。

智能设计如何为机器人立心?

除了展开人们在具体场景中对于机器人的行为可能出现的问题的细节评估,探寻可行的伦理规范外,当前的陪伴机器人依然处于初级阶段。如何在人与机器人交互以前对机器人进行设计,则是另一个不可回避的问题。机器人不是传统意义上的简单商品,当机器人展现人的形象并拥有人的属性时,为机器立心是设计机器人的重要前提

事实上,人在与机器的交往过程中往往会受到机器行为方式的影响,这种影响通常是无形的,但又确实存在。这提示设计者,与人相似的机器人的设计上使能够按照人类的规则来与人类交往

性爱机器人是未来陪伴机器人的一个重要细分领域。显然,在设计性爱机器人时,就不能仅仅把它们当成“情趣用品”来设计,而是需要把人际性爱交往的某些基本规则(如知情同意原则、相互接受原则)纳入性爱机器人的程序中。

再比如,在设计机器人士兵或机器人警察时,需要避免把仅仅当作军事机器人来设计。机器人士兵与机器人警察的道德判断与行动都直接涉及人的生命,因而它们的设计与生产不仅需要透明、公开,还需要接受某个公正的全球机构的监管。必须要把对人类核心道德的维护与遵守作为强制性条款编入这类机器人的程序中,机器人士兵与机器人警察的设计需要遵循某些共同的全球标准。

此外,尽管以强人工智能技术、基因工程技术等为基础的机器人能够享有作为道德承受体的道德地位,显然,机器人最多只能成为显性道德行为体,而不像成熟人类个体那样的充分的或完全的道德行为体

这是因为,虽然机器人能够履行常规的道德责任,但当面临复杂的道德境遇或需要做出艰难的道德判断与道德选择时,机器人没有几亿年的进化史留在人类身上的刻痕,没有生物的直觉和本能,终究需要正常而理性的用户或专家需要帮助机器人做出相关的判断和决定。

这也意味着,机器人的设计者需要为机器人的行为承担部分道德责任。因此,在设计机器人时,一开始就应该想办法限制那些别有用心的设计。比如,不应该制造那些蓄意撒谎的陪伴机器人,一旦机器人撒谎的能力得到开发,就难免出现陪伴机器人包庇人类不当行为或违法行为的情况。

是机器人的道德监护人。随着机器人越来越多地介入我们的生活,人类不可避免地要进入人机共处的时代,我们不可避免地要与机器人“比邻而居”。但在这样的新时代到来前,人机交互的关系也值得被我们持续反思。对于机器人,只有审慎和克制,才不会带来自弃与沉溺。

(0)

相关推荐

  • 人工智能是不是很快会全面超越人类?

    人工智能从技术角度通常可分为三个阶段,即计算智能.感知智能和认知智能.在计算智能方面,机器已绝对超过人类:感知智能就是让计算机能听可看会说,现在基本上可以与人媲美,在医学影像读片等特殊任务中甚至超过人 ...

  • 人机交互时代已经来临!现在是人与人通过智能手机分享信息相互连接,未来是人通过数据与智能机器交互!

    中国有14亿人的消费潜力:中国有10亿人活跃在互联网上:中国有世界上最发达的移动互联网:每个人都可以用智能手机随时随地接入移动互联网分享信息,点对点连接:这就是中国新经济发展最好的基础和条件.现在是人 ...

  • 人工智能在图书馆应用中的现实困境

    自1956年J.McCarthy提出人工智能(ArtificialIn telligence,AI)的概念起,人工智能已经走过了60多年的发展历程.图书馆作为应用信息技术的积极先行者,对于信息技术的发 ...

  • 段伟文|人机伴生:从机器人伦理到道德机器

    " " 段伟文(中国社会科学院哲学所研究员) 所谓人机伴生,要强调的是在人工智能和机器人的发展进程中,一直通过人与机器的协同而演化.如果认识不到这一点,就很容易忽视人类智能与机器智 ...

  • AlphaGo之后,人类可以用意念控制机器,确定这不是YY?|深扒

    近来最热的一个话题就是几天前的『人机大战』,Google的人工智能软件AlphaGo对战韩国职业九段棋手李世乭,最终比赛结果定格在4:1,机器完胜. 很多人为谷歌的人工智能欢呼,有很多人感到惶恐不安, ...

  • 陈根:机器人导盲犬——导盲新可能

    文/陈根 前不久,上海一位50岁的盲人阿姨因导盲犬排便问题被小区居民多次投诉.这一事件发生后,引起了社会对盲人群体的关注,也引起了对导盲犬的关注. 导盲犬作为一种经过严格训练的狗,属于工作犬,在一定程 ...

  • 陈根:机器人外骨骼,或将成就无障碍行走

    文/陈根 机器人外骨骼已经对无法行走的人们产生了巨大影响,或将帮助行走障碍者们更方便地行走,但目前仍然存在一些局限性. 比如,虽然电动外骨骼在沿着平坦地面行走时能够自动帮助移动佩戴者的腿,但大多数外骨 ...

  • 陈根:机器人给药,精准治疗未来已来?

    文/陈根  20 世纪中期,著名物理学家 Feynman就提出了分子机器的设想,预测未来只要把纳米机器人放进人体的血液中,就能自动抵达病灶进行手术,治疗疾病. 在将近一个世纪后,Feynman的分子设 ...

  • 陈根:机器人如何预测机器人?

    文/陈根 同理心是人类的一种特殊心理状态,是设身处地地对他人的情绪和情感的认知性的觉知.把握与理解,也是指人们将心比心,心理换位的能力.显然,这种能力除了帮助我们认识他人和理解他人外,也给我们提供了预 ...

  • 陈根:机器人LEO,走路飞行无缝切换

    文|陈根 双足机器人曾是科幻文学和电影的主题.在非理想地形上,早期双足机器人的形象通常是移动缓慢且笨拙的.近年来的技术进步使得它们能够在保持平衡的同时更快.更有效地移动,但是其移动或多或少还是会受到崎 ...

  • 陈根:生物机器人——依靠细胞“长成”

    文/陈根 科幻作品<云端杀机>中曾描述过这样一个场景:像蚁群一样的有机组织,形成千万级别的简易飞机群,以蜂拥而至.出奇制胜的步骤完成了刺杀行动.这一场景生动展现了集群机器人的设计理念和威力 ...

  • 陈根:数据清洗机器人,MIT首发

    文/陈根 当前,数据量的快速增长已经成为了IT管理部门所面对的最难于解决的问题之一.数据量的增长严重降低了应用程序的性能,降低了应用程序的稳定性,并且消耗了大量的投资,同时对备份与恢复也增加了巨大的负 ...

  • 陈根:微型软体机器人,正在拥有“鞭毛”

    文/陈根 "小"似乎成为当前技术进步的标志--把众多硬件和软件集成到越小的载体上就越能体现技术能力.在人工智能领域,也遵循了这一趋势,微型机器人的发展就是一个很好的例证.随着微加工 ...

  • 陈根:强化学习,如何增强机器人的鲁棒性?

    文/陈根 双足机器人曾是科幻文学和电影的主题.在非理想地形上,早期双足机器人的形象通常是移动缓慢且笨拙的.但是随着科技的发展,它们开始能够进行更快.更有效地移动.现在,有些双足机器人已经可以适应环境和 ...