人工智能与人工智障,可能就是一线之差
毫无疑问,人工智能是这几年非常火热的产业之一。
随着应用领域的不断扩大,机哥也常常听到很多人发出这样的声音:
“我想做AI……”
没错,只要随手在知乎上一搜,就能发现不少想要转行从事人工智能的朋友。
毕竟作为风口行业,做AI还是蛮吃香的。
但是嚯,并不是所有人做出来的人工智能产品,都能够达到最完美的效果。
国外就有人专门建立了一个数据库(AI Incidents),汇总了迄今为止翻车的各种AI产品。
可以说,堪称沙雕。
沙雕AI翻译
机哥相信,对很多人来说AI翻译并不陌生。
和传统的机器翻译不同,AI翻译可以利用计算机算法,达到流畅的翻译效果。
并且AI翻译还能像人一样,通过不断的学习,完善翻译的能力。
听起来非常先进,但这丝毫不影响它半路翻车。
事情发生在以色列。
一位名叫哈拉基姆·哈拉维(Halawim Halawi)建筑工人在社交媒体Facebook上,用阿拉伯语发布了一句“早上好”,搭配一张自己站在拖拉机旁的照片。
随后,这个男子就毫无预警地,被当地警察给逮捕了。
美好的早晨,从免费供应的警察局盒饭开始。
紧张的哈拉基姆在和警察的沟通中发现,他之所以被带走,是因为Facebook的AI翻译把“早上好”,翻译成了“攻击他们”。
原来,AI翻译功能将非标准阿拉伯语,连蒙带猜地识别成希伯来语。
就好像有人把口语化的“早啊您嘞”,错误地看成“草(cǎo)啊您嘞”,并翻译成其他语言。
再加上此前有挖土机攻击群众的例子,就让警察更加肯定这名男子要实施犯罪。
一般来说,这种无法识别的单词,翻译引擎会选择保留,或者跳过不翻译。
但是在AI翻译当中,它会根据数据库当中的信息,自行学习并且试图拼凑出这些词语的意思,多少有点自作聪明的赶脚。
这并不是AI翻译第一次翻车。
此前,谷歌翻译也曾经把“俄罗斯联邦”翻译为“Mordor”,后者是《指环王》里一个邪恶又黑暗的地区。
谷歌自动把俄罗斯翻译成Mordor
而微信上的翻译服务,也曾得出了很多让人啼笑皆非的翻译结果。
例如“You are so caixvkun”,被翻译成了“你真是个傻蛋”。
当然啦,AI翻译翻车还只是AI Incidents数据库里的一个例子。
更沙雕的,还有使用人工智能技术开发的机器人。
沙雕AI机器人
为了缓解人手不足的情况,苏格兰的一位老板在自己的超市里,尝试引进了一个机器人店员。
这个机器人由赫瑞瓦特大学的研究团队研发,名叫法比欧。
它被设计成像Siri或Alexa一样,只要连接上Wi-Fi,就能够和顾客进行对话,解决顾客的问题。
听起来是不是非常高端大气上档次……
但是大家都知道,理想很丰满,现实却很骨感。
例如顾客询问奶酪在哪个位置的时候,法比欧只会回答“奶酪在冰柜里”。
听起来没有什么不对,但鉴于超市的冰柜有一整排,法比欧的答案对于顾客来说,就是答了个寂寞。
而当顾客询问啤酒在哪里的时候,法比欧也只会空泛的回答到“在酒精饮料区”。
这还不算完。
由于法比欧被设计成胯胯轴微微凸起的形象,不少超市的顾客都被顶到……吓到不敢靠近。
而且顾客还会抱怨经常它挡道,所以大部分人看到它都选择绕道避开。
最终,法比欧因为吓跑不少顾客,没有逃过被解雇的命运。
沙雕AI语音助手
还有亚马逊的AI助手Alexa,不仅一次被记录下翻车。
有孩子在要求播放歌曲Digger Digger时,Alexa试图给他播放成人电台的作品。
糟糕,Alexa给孩子播了成人内容
这个过程刚好被孩子的父母用手机记录下来。
也幸好父母在旁边,才阻止了Alexa的进一步动作。
不过根据视频显示,当时Alexa已经说出不少儿童不宜的词语。
还有一次,美国电视里的新闻主持人正在播报新闻,谈到一个小女孩和亚马逊Alexa的有趣互动。
这个小女孩在Alexa的帮助下,订购了一个玩具屋和一大罐饼干
随后主持人说出,“我超喜欢这个小女孩说,'Alexa给我订了一个玩具屋'的样子”。
然后……全国各地就有不少民众表示,自己的Alexa被电视里的这句话唤醒,并且准备订购玩具屋。
Alexa被意外唤醒,试图购买大量玩具屋
除了亚马逊的Alexa之外,大家熟悉的Siri其实也因为过于沙雕,闹出过不少笑话。
例如有人测试,告诉Siri想吃大便。
Siri居然真的推荐了几个公共厕所。。
而比起上面那个玩笑话,接下来的就更可怕了。
在某一版iOS当中的Siri,在收到“我会自杀”的讯息时,回答的竟然是:
我相信你可以的。
沙雕AI人脸识别
众所周知,AI人工智能的一个重要领域,就是人脸识别。
在这方面,AI Incidents数据库记录下的翻车例子也不少。
其中一个就来自咱们中国。
没错,就是大家非常熟悉的“董明珠闯红灯”事件。
这张图相信大家也看过很多次啦。
宁波行人闯红灯曝光台在曝光的过程中,由于人脸识别算法的问题,将人行道上驶过的公交车上的董明珠广告形象,给曝光在大屏幕上。
而当时宁波交警也回复,将对技术进行升级。
AI算法闹出的笑话还不止这一个。
疫情期间一场网络直播的足球赛,采用AI识别控制镜头自动跟踪足球,进行了网络直播。
然而,AI认为场边的裁判的光头是足球,就一直把画面聚焦在裁判的光头上,导致了球迷无法正常观看球赛。
AI把裁判的光头误认为足球
不过最严重的,还要属iPhone的人脸识别翻车。
美国的一家著名生物识别安全公司FaceTec,找到了iPhone X上Face ID的识别漏洞。
如果用户睡着,可以通过打印一双纸质的眼睛放在用户的脸上,从而欺骗Face ID完成解锁。
这还不是最过分的。
研究人员从pizza上随手拿下一些配料放在眼睛上,也能完成解锁的动作。
例如直接用橄榄代替眼睛,就能够让iPhone X解锁。
或者是香肠和橄榄组合,也能轻松骗过Face ID。
顿时间,iPhone这几代那个浓重而又占地方的刘海,就显得有点鸡肋。
另外,还有橄榄和蘑菇的组合,也一样能够替代用户的眼睛来解锁。
当然啦,上面的例子大家看完的反映,大多就是笑一笑。
但是,除了这些比较有趣的翻车例子之外,AI Incidents数据库还记录下很多血的教训。
在使用的过程中,由于种种的原因,AI也造成了一些严重的事故。
例如亚马逊的工厂里,由于AI机器人无故刺破驱熊喷雾,就导致24名员工送院治疗。
机器人意外释放驱熊喷雾
24名亚马逊工人送医
而在2017年美国加利福尼亚州发生大火时,一个以AI智能规划路线的导航,就在用户准备逃离时,把用户引导至大火的方向。
导航把用户引向山火方向
除此之外,AI Incidents数据库中还有不少自动驾驶事故案件的纪录。
包括大家熟悉的特斯拉和Uber,都多次发生过类似的问题。
其中大部分都是因为AI系统无法及时躲避路上的行人,才导致了悲剧的发生。
自动驾驶车辆意外造成亚利桑那州女性死亡
当然,说了那么多AI翻车的故事,机哥并不是要告诉大家远离AI。
毕竟作为未来科技发展的一个重要方向,AI能够带给我们的好处,远远比这些翻车的事故要多。
前提是,要在技术成熟的前提之下。
因为只有保障了使用的安全,AI才能够最大程度地为我们的日常生活提供帮助。
不然的话,压根就谈不上什么人工智能。
顶多就是人工智障而已。