Facebook危机大数据杀熟警示人工智能欺骗对人类的巨大威胁

前两次工业革命发明了机械开发了电能,起到放大人类的体能的作用,而信息时代第一次触及到人类的精神层面,放大的是人的意识。人的善恶都被放大了数倍,联动业已成熟的机电系统,传导到实体世界。这种被放大的善恶对实体世界的影响巨大而深远。

脸书事件、大数据杀熟终于揭开信息时代阴暗的一角。在信息时代,资本还是唯一推动技术应用的力量,这种力量也被放大了数倍,左右着人类发展进程。

最近爆出2016年特朗普竞选团队投入巨资聘用AI公司Cambridge Analytica非法利用5000万Facebook用户信息,在用户不知情的情况下通过刻画用户心理征,精准推送真假新闻,用以影响这些用户立场,进而帮助特朗普上任。

第一次,大数据杀熟的新闻见诸各个媒体,比如两个人打车,走相同的路线,一个新人就能得到便宜的价格,一个经常打车的人得到的价格就高一些,如果这两个人没有沟通,他们是无法知道这样的区别的,这就是杀熟。平台公司通过收集消费记录或者浏览习惯,利用大数据工具深入挖掘消费者的喜好,建立消费者数字画像,预测消费者消费行为。可以说一个团队利用大数据工具对消费者个人的研究,可以达到比消费者本人更加了解自己的程度。信息时代浩如烟海的信息,平台对信息的绝对掌控权,原本应该透明的信息,变成了平台营销工具的一种,让消费者的隐私无所遁形。这种情况下,对消费者个性化定价也就不足为奇了。

而这一切仅仅只是刚刚开始,大数据的应用从广度和深度都还还处于初级阶段,更别说人工智能的应用了。仅仅在这个阶段的一些负面应用,就已经造成如此大的影响,资本利用信息不对称或者逼真的虚假信息,成功地在商业上实现个性化定价,在政治上实现洗脑。可以想象,随着大数据技术的深入应用,人工智能应用的深入研究,总有一天,被资本控制的信息会让你在不知不觉中上当受骗,生活在一个虚假的世界里,再也没有能力辨别真假,就像一个在梦中的人无法叫醒自己一样。

这还只是在商业和政治领域,一个大不了让我们损失金钱,继续着被剥削的命运,一个可能让我们丧失民主,失去了判断力,继续臣服于资本,而最可怕的是文化的造假,有可能让我们迷失整个人生的真相。

最近的一个新闻让我们看到了一丝这样的端倪。

由Epic Games和腾讯合作的Siren是一个基于计算机视觉等技术构建的数字人,她拥有逼真的眼睛、皮肤和头发,细节方面达到了前所未有的程度,还具备强大的人类表情动作实时捕捉以及合成技术。在一次演示中,一位真实的女性人类在现场侃侃而谈,她的表情、动作、声音,被实时的赋予身后大屏幕上的女性数字人类Siren,创建了一个可以实时互动、让人信任的数字角色。

这样的技术如果用于欺骗,那是再合适不过的了。想象一下,某一天一位重要的公众人物,出现在新闻视频中,向世界宣布一个重大的决定,会引起怎样的影响。如果在大范围出现各种数字人,在虚拟世界我们根本无法分辨真假,没有人能知道真相,就连始作俑者也可能失去对信息的控制。

到那时,不用波士顿机器人哗变,仅仅是虚拟世界就能造成人类社会的混乱。也许这就是霍金对发展人工智能的警告的一部分,也是马斯克反对人工智能无节制地发展的理由。

(0)

相关推荐