戴头盔看房、AI面试官……我们都是被AI虐的“工具人”

图源/Pixabay

30秒快读

1

为了省30万,男子戴头盔看房。参加面试,结果面试官是个机器人。AI正在入侵我们的生活,你我都不例外。

2

人脸识别,或者更复杂的AI,开始将人们锁在系统里,我们总是被自己“驯服”的工具所驯服,最终成为新的“工具人”。

“AI 20年内将会给我们的生活带来什么改变?”李开复在知乎上提问。一个高分回答是,“AI会是一种思想工具,辅助人们调优复杂的社会系统,你的记忆将会是机器拼凑出来的蒙太奇,你的未来已被AI模棱两可地预测出来。”

正如《西部世界》第三部中的超级AI——罗波安,那些“听话”的人类,命运早已被安排好。

罗波安 图源/《西部世界》

夸张吗?或许。但你被AI虐的故事才刚刚开始。

最近,看到几则奇葩新闻。

很多楼盘上马了“人脸识别”系统,用来分辨看房者到底是“自来水”还是中介引流而来,如果是前者,即使第二次看房有中介推荐,也无法享受渠道优惠,于是有人被迫戴上了“头盔”。为什么不戴口罩?嗯,技术太先进了,戴口罩也能被识别。

图源/网络

985名校的应届毕业生接到面试通知,面试官却是机器人LINA。这套人工智能招聘系统自2017年开始被很多跨国公司使用,号称会抓取应聘者最细微的表情,从眼神到动作到语速,由此来判断你们是不是最合适的candidate(应征者)。为什么被淘汰?嗯,招聘公司也不知道,因为LINA是个黑盒子。

图源/网络

某个展会上,展台人员正在介绍一种管理收银员的AI系统,老板可以定义哪些动作属于非工作行为,任何一个“非正常”动作被摄像头抓取到都会报警;另有一种智慧营销系统,每个进店的消费者被摄像头看到并分析其一举一动,从而被提供“量身定制”的贴心服务。

不要天真了,AI正在入侵每个人的生活,以智慧和科技的名义。

2020年的新冠疫情,加快了整个社会数字化转型升级的步伐,人工智能从发明期走向应用期。然而,却也有逐渐被滥用的趋势。

在许多描写人类未来的科幻小说中,赛博朋克(Cyberpunk)是常见的社会形态:大公司的垄断和底层的挣扎、科技的高度发达和控制与反抗的斗争、人工智能的被压制与觉醒,以及被异化为“工具”和“机器”的大多数人。

图源/Pixabay

这种带有迷幻色彩、反乌托邦式的文化,之所以如此迷人,并逐渐从亚文化走入主流,是因为它具有太现实的可能性。

近几年,AI的跳跃式发展,始于深度学习图像识别能力的大幅提升以及由此衍生的其他能力,比如声音识别、语义识别,它所带来的巨大想象空间是,现实世界的数据化。可见的场景,可听到的声音,都能迅速被“翻译”成0和1,为计算机所认知,流行的说法是“数据孪生”。

人工智能自然是人类史上又一次革命,普华永道预估,人工智能将在2030年给全球带来15万亿美元的财富净增,而且主要来自于传统行业和AI的结合,AI场景化被看作是数字经济发展的重要抓手。

但被公认的一点是,至少到目前为止,“孪生化”的只是现实世界表象,千百年来传统社会中形成的法律和伦理,在虚拟社会中,并没有被同步“移植”。那个正被源源不断数据填充的“孪生世界”,是个可恣意开垦的荒野大陆。

正如《西部世界》中,乐园的公司提洛用帽子偷偷记录所有游客头脑中的数据,而新反派塞拉克为了这些数据,千方百计地收购提洛。塞拉克和哥哥所创造的罗波安,通过深度学习与测算,打造了一个超级系统管理人类社会,为所有人策划了一条“和平”和“富足”的未来之路,并美其名曰“拯救”。

图源/《西部世界》

拯救,多少罪恶假汝之名。命运被“锁死”的人类,没有选择权。前面几则新闻之所以引发共鸣,自是其中隐约可见类似的“赛博朋克”未来。

我们总是被自己“驯服”的工具所驯服,最终成为新的“工具”。

农耕社会,从森林走出的人类被小麦驯服,农民被“锁”在土地上;工业社会,泰勒法让工人被机器驯服,《摩登时代》里的卓别林,被“锁”在扳手上。如今,狭隘的、还在幼年的人工智能,被资本用作新的“驯服”工具:挑选“合适”的应聘者,监视“偷懒”的员工和不好好“听课”的学生,推送所谓精准的内容给“有需要”的读者,让外卖小哥和网约车司机跑得更快……

于是我们成为算法的工具,被“锁”在系统里。将来呢?当人工智能进入成熟期,是否会像《西部世界》中那样,即便是塞拉克,最终也只是罗波安的发声筒?

图源/《西部世界》

关于人工智能的伦理治理,无论是当年阿西莫夫的机器人三定律,还是今日科学家和社会学家不停呼吁,从来都没有被忽视,但从社会的实际管理者——政府层面来看,仍有较多缺位。监管部门对数据非法收集的惩罚、AI应用范围的限制、负面作用的消解等“墒减”动作,还是太少。

比如,关于人脸信息的收集,《网络安全法》和《民法典》都明确规定:收集、使用个人信息,应当遵循合法、正当、必要原则;《信息安全技术个人信息安全规范》中也规定,在收集个人生物识别信息前,应单独向个人信息主体告知收集、使用个人生物识别信息的目的、方式和范围以及存储时间等规则,并征得个人信息主体的明示同意。然而,上述新闻中的收集,显然既没有正当必要性,又没有经过被收集者同意,可也没有谁因此受到惩罚。

“这些残暴的欢愉,终将以残暴结局”。

或许将来人工智能普及之后,会觉得今日所有顾虑都只是可笑,但也许,如果对数据收集和AI滥用不加以克制,我们只会一步步走向预定的“终点”。

作者/IT时报记者 郝俊慧

编辑/挨踢妹

排版/冯诚杰

图片/《西部世界》 Pixabay 网络

来源/《IT时报》公众号vittimes

(0)

相关推荐