AI可以学习操控人类行为

图片来源：Pixabay

人工智能(AI)正在学习更多有关如何与人类合作（以及影响人类）的知识。最近的一项研究显示，AI可以识别人类习惯和行为中的弱点，并利用它们来影响人类的决策。

人工智能正在改变我们生活和工作方式的方方面面，这听起来似乎是些陈词滥调，但所言非虚。各种形式的人工智能正在疫苗开发、环境管理和办公室管理等不同领域中发挥作用。虽然AI不具备和人类一样的智力和情感，但它的能力非常强大且在快速发展。

虽然现在还没有必要担心机器会接管我们的全部活动，但最近的一项发现凸显了人工智能的力量，并强调了适当管理以防止其滥用的必要性。

人工智能如何学会影响人类行为

澳大利亚联邦科学与工业研究组织（CSIRO）数据和数字部门Data61的一个研究小组设计了一种系统的方法，该方法利用一种称为循环神经网络和深度强化学习的人工智能系统来发现和利用人们决策方式中的弱点。为了测试他们的模型，他们进行了三个人机对抗游戏的实验。

第一个实验中，参与者点击红色或蓝色的盒子以赢取假币，AI则学习参与者的选择模式，并引导他们做出特定的选择。人工智能成功率约为70%。

第二个实验要求参与者观看大屏幕，在看到一个特定的符号（如橙色三角形）时按下按钮，看到另一个符号（如蓝色圆圈）时不触碰按钮。这次人工智能开始改变符号的顺序，引导参与者犯更多的错误，使错误率增长了将近25%。

第三个实验包括了多轮游戏，参与者假装自己是投资方，把钱交给一个受托人（AI）。之后AI将返还参与者一定数量的资金，参与者再决定下一轮投资的金额。这个游戏在两种不同的模式下进行：一种是AI会最大化自己的最终收益，另一种是它会公平分配自己和人类投资者的收益金额。人工智能在每种模式下都取得了很大的成功。

每一个实验里，机器都会从参与者的反应中学习，并识别和定位人们决策时的弱点。最终的结果是机器学会了引导参与者采取特定的行动。

图片来源：Pixabay

这项研究对人工智能的未来意味着什么

这些发现仍然相当抽象，只涉及有限和不现实的情况。需要进行更多的研究以确定如何将这一方法付诸实践并造福社会。

但是，这项研究提高了我们对AI的能力和对人类是如何做出选择的认识。它表明机器可以通过与我们互动来学习如何引导我们决策。

这项研究有广泛的应用可能，从加强行为科学建设和完善公共政策以改善社会福利，到了解和影响人们如何培养健康的饮食习惯或开发可再生能源。人工智能和机器学习可以用来识别人们在某些情况中暴露出的弱点，并帮助他们避免糟糕的选择。

该方法也可用于抵抗影响性攻击。比如，当我们在网上受到干扰时，机器可以提醒我们，并帮助我们塑造一种行为来掩饰我们的弱点（例如，不要点击某些页面，或者点击其他页面来留下假的痕迹）。

图片来源：Pixabay

下一步是什么？

与任何技术一样，AI是一把双刃剑，为了确保AI能以负责任的方式应用在生活中，恰当的管理至关重要。去年，CSIRO为澳大利亚政府制定了一个人工智能伦理框架，作为这一进程的早期步骤。

人工智能和机器学习对数据的需求很大，这意味着有效的数据管理和访问系统非常重要。收集数据时，必须要实施用户同意程序和充分的隐私保护。

使用和开发人工智能的组织需要确保他们知道这些技术能做什么和不能做什么，同时要意识到其中潜在的风险和益处。

撰文：Jon Whittle，Data61主管。

翻译：张乃欣

审校：曾小欢

引进来源：theconversation

引进链接：https://theconversation.com/ai-can-now-learn-to-manipulate-human-behaviour-155031