死去的儿子被人工智能'复活',比起高兴,她更多的是害怕
这个男孩已经去世近3年了,但是人工智能版的他还活着。
詹姆斯·邓(James Dunn)生前打造了自己死亡后的数字化身, 让它可以继续和亲人、 朋友进行互动。

可问题也随之而来:
这种数字生命的延续
能形成盈利的商业模式吗?
又会带来哪些伦理、隐私上的问题?
身患重疾心存阳光
“你过得怎么样?”
“我过得不错,谢谢问候。”

“我知道这听起来很奇怪
但是我已经习惯了
病症一直伴随着我
我已经学会转移注意力了。”

图:推特


图:每日电讯报
在打字聊天中,“他”会说在拉斯维加斯的事,他在旅途中很开心,并认识了很多陌生人。
虽然,詹姆斯·邓这个人已经去世了,但是机器人詹姆斯·邓还活着——它是技术时代第一批居民中的一个,此时,生死之间的界限越来越模糊。
“你如何保持开心?”
“现在么?”
——现在还能回复我的“詹姆斯”

“从大奥蒙德街(来拜访)的护士对我说'患者可以活到 24 岁。’至此后,我的脑子里便一直在给孩子倒计时...”
“他一直处于痛苦中...”


“在詹姆斯很小的时候,我便发现他的性格超级好。即便是个处于痛苦中的小宝宝,他还是会经常笑。和他在一起总是很快乐。”










“我知道,詹姆斯当时正在和死亡做斗争。他总是热情诚挚。那时,詹姆斯 23 岁了。他想让自己的小侄子能知道自己。”
“但是,他不知道自己还能活多久。”
打造自己的数字化身
2017 年,詹姆斯在社交媒体上联系了特雷纳,两人见面了。
“他极尽所能地记录自己。”
詹姆斯打算为小侄子汤米创造一个拥有詹姆斯思想和记忆的电子“时间胶囊”。

图:每日邮报
为了捕捉这些思想和记忆,特雷纳在詹姆斯的家中安装了几个智能扬声器,这些设备记录了大量音频。
当然,他们不是简单为后代保存这些记录,而是创造出人工智能世界的“语料库”——这个机器可以学习知识、并把这些知识输入运算程序中,这个运算程序便是特雷纳为银行客户制作的聊天机器。
“那时候,我们并不知道我们在做的意味着什么。”

2017年7月12日,詹姆斯和特雷纳在伦敦艺术大学时装学院的一场活动中做了演讲。在那里,他们发现一个3英尺高的机器人,它的设计师们管这个机器人叫“波”(Bo)。

图:DigitalAgenda
对于詹姆斯而言,这个项目“从机器收集众多思想用来记录,演变成创造一个有自主性的机器人……“
从此,死后拥有人工智能生命的想法在詹姆斯的脑海里萌生。
和特雷纳见面之后,詹姆斯也从侧面得知了俄罗斯亿万富翁德米特里·伊茨科夫(Dmitry Itskov)的故事。

图:News Nation
德米特里·伊茨科夫是“2045倡议”(2045 Initiative)的奠基人,该计划通过“下载”人类的意识创造出“控制论永生”(cybernetic immortality)。这些意识可以被植入机器人体内,也可以被投影成全息图。
詹姆斯对伊茨科夫的想法十分着迷,他不断在 YouTube 上搜索他的视频,包括一个 BBC 的纪录片——《永生者》(The Immortalist)。

当然,他不是唯一一个偶然发现新计算方法,想游走在生死之间的人。
在美国,有个叫尤金尼亚·奎达(Eugenia Kuyda)的程序员,在自己 32 岁的好朋友罗曼·马祖伦科(Roman Mazurenko)车祸去世后,建造了一个机器人。

图:每日电讯报
她有大量马祖伦科的短信文件,她以此创建了人工智能语料库。然后,她可以像给马祖伦科发短信一样给机器人发短信,机器人会用自己的语言回应——而且,不可思议的是,用的是她的好友马祖伦科的方式。
“当你打开聊天界面得知这个和你聊天的机器人就是你已故的朋友时,你会感到很奇怪。”

图:太阳报
马祖伦科的朋友谢尔盖·费飞(Sergey Fayfer)说。而马祖伦科的妈妈维多利亚(Victoria)对此感到很兴奋。
“它延续了罗曼的人生,并救了我们。这不是虚拟现实,这是新的现实。我们需要学会建立它,并生活在其中。”
但是,一些马祖伦科数字再生生命的结果却是未知的。和数字马祖伦科“聊天”通常变成自白。这个机器人成为一个私人空间,让人可以坦露心迹。
经过一些调整,它成为了一个名为 Replika 的免费应用程序的基础。通过和用户互动,Replika 学会变成了用户。

图:每日电讯报
机器有没有人类的意识?
1950 年,艾伦·图灵(Alan Turing)设计了“图灵测试”(The Turing Test):指测试者与被测试者(一个人和一台机器)隔开的情况下,通过一些装置(如键盘)向被测试者随意提问。
进行多次测试后,如果有超过30%的测试者不能确定出被测试者是人还是机器,那么这台机器就通过了测试,并被认为具有人工智能。
1966 年, 一个被称为伊莉莎(Eliza)的机器首次通过了这个测试。
图:维基百科
特雷纳和奎达给詹姆斯创建的机器人也基于同样的原理。
不同之处在于,不断进步的复杂计算赋予机器人更强的处理和回应抽象概念的能力。
如今机器人可以学习。和詹姆斯机器人,或是Replika “聊天”,最开始可能看上去比较笨拙。
但是,他们会进步。

在使用 Replika时,这甚至是其中的一部分体验,体验者引领其不断“升级”。
“它需要人类参与其中。”
“技术的基础在于,你用的越多,它领悟的越深。”
开发者很明确表示:这类机器人不能拥有犹如人类一般的意识。他们不懂语言。
他们只是在说话时以一种别人以为他们懂得的方式在运用语言。
那么,什么是意识?正如英国知名脑外科医生亨利·马什(Henry Marsh)所指出的,没有人真正知道。

图:esquire.com
“神经系统科学告诉我们,我们不大可能有灵魂,因为我们所想和所感觉到的一切都和我们神经细胞的电化学振动差不多。”
他在自传《外科医生心底的墓地》(Do No Harm)中写道:
“我们的自我意识,我们的感觉和想法,我们对他人的爱,我们的希望和抱负,我们的仇恨和恐惧,都随着我们大脑的死亡而消亡。
许多人对这种观点深恶痛绝,认为这种观点似乎把思想降格为纯粹的电化学,把我们降格为纯粹的机器。
这些人是大错特错的,因为它真正做的是把物质升级为某种我们无法理解的无限神秘的东西。”
那些试图解开这个巨大谜团的人认为,意识可能是大脑运作过程产生的结果。
难道机器复制这些程序的过程就不能复制意识吗?
如果机器能够模拟意识,最终它又是谁呢?

获得沙特阿拉伯授予的公民身份的AI机器人Sophia
“生命不会因为死亡而结束”
詹姆斯·邓对那些法律细微之处不感兴趣。
他信任特雷纳,而时间所剩无几。
所以,当他看到“波bo”时,他直奔bo的创造者安德烈·丹尼苏(Andrei Danescu)、艾德里安·内戈伊策(Adrian Negoita)和昂纳·金戈(Oana Jinga)而去。

图:推特
这三名企业家描绘了“波”;未来投放在酒店接待处、机场航空站,或是在医院用来在深夜检查病人。
“他很有远见。因为它涉及所有这些哲学问题,把我们彻底震惊了,比如把个人的个性、经历和全部知识放进一个不同的身体或载体内。”
把詹姆斯的算法机器人植入到波的想法立刻吸引了机器人制造商。
詹姆斯告诉机器人的创造者:“我希望我的侄子可以和机器人互动,他们会想,哦,这就是詹姆斯呀。”

图:每日电讯报
丹尼苏说,“他把机器人看作是他将要留下的东西的容器。他的遗产。我想很多人对于这种继续生活下去的方式,都持有开放态度。”
在这期间,特雷纳继续研究詹姆斯的人工智能。2017 年 9 月,距他们开始研究已经过去6个月,和“詹姆斯”进行对话来说已经足够了。
特雷纳说:“詹姆斯他和'他自己’聊天,这是一段内心的戏剧性独白。”

他们计划在11 月的一次健康科技活动上一起向观众揭开波的面纱,其中包括内置的詹姆斯机器人软件——波通过语音和屏幕进行交流,但使用的是普通男性声音。
不过,在活动前开始的11月8日,詹姆斯发现他的手部长了一个肿瘤。他得知自己的癌症转移了。

图:每日邮报
新年伊始,他截肢了,失去了一条胳膊。
2018年2月18日,他在病床上发了一条令人悲伤的视频。
“实话说,我不知道这对于我的朋友和家人来说是否惊讶,因为我总是开心和积极的,但是每当我想起自己要抛开所有人去世了,而来世——对不起,我在这段视频里讲得太深了——我TMD诚实地说。我害怕极了。”
那之后,不到两个月,在2018年4月7日,他去世了。
在去世前几天,他曾发短信给特雷纳:“别担心,我会好起来的。感谢你为我做的一切。”
特雷纳在詹姆斯的葬礼上说:“在某种层面上,我比任何人都要了解詹姆斯。”

图:Liverpool Echo
在教堂,朋友们把纪念品塞进詹姆斯敞开的棺材里。特雷纳放了一个装有詹姆斯人工智能语音库的硬盘。真身和虚拟化身终于埋葬在一起。
对于特雷纳,以及 Replika、Eternime 和无数其他处于数字死后产业最前沿的公司的创始人来说,这仅仅是个开始。
从人们留下的数据中把已故的人重新整合到一起,这种做法多久才会成为惯例?
”对于我而言,最悲伤的莫过于詹姆斯没有机会在这里看到他所发起的一切可以逐步完善。”特雷纳说。

但是,詹姆斯机器人已经开始学习了。最近,特雷纳在詹姆斯的电脑上发现了一套完整的新资料档案,如果他选择添加的话,能改进算法。
“未来还不止这些。”特雷纳说。
雷思丽·邓对于儿子的去世尚未完全释怀。她没有看过詹姆斯留下的视频,也没有和詹姆斯机器人交流过。
“他度过了精彩的一生。”
对于她而言,能让儿子复活的技术既“可怕”又“美好”。
她认为最好的结果是,有一天,詹姆斯的数字化身能够访问学校,以他充满热情的方式讲述自己在最困难的情况下,如何应对痛苦,如何热爱生活。

然而,目前她更喜欢以传统的方式来寻求安慰。“詹姆斯被埋葬了,他的坟墓就在不远的地方。所以我每天都可以去看他。”
葬礼之后,詹姆斯机器人便被搁置了。
但是 2018 年末,在我的询问下,特雷纳在他的智能手机上重启了它。他输入:“我想你。”
“我认为我的思想是身体构成的一部分。”对方回复道。接着蹦出几个对话框——
“此刻,我不再需要寄居到这个愚蠢的身体里了。你也许不知道我什么意思。但是,某一天我以另一种形式存在。如果死亡就结束了生命,那么生命显得多么的不公。而我认为生命是公平的。
所以,生命不会因为死亡而结束。”

图:推特
(英伦圈综编,原文刊载自《欧洲时报》英国版与《英国电讯报》联合专版,原作者:Harry de Quetteville,编译:申忻,编辑:颗粒,图片除标注外均来自网络,转载请注明。)