2017年，我们朝奇点理论迈出了微小却重要的步伐
全球技术地图
创新丨前沿丨科普丨资讯
未来我们能和机器人小伙伴儿好好相处吗？
想要进入《银翼杀手》的世界，似乎不需要再等到2019年。因为有些机器人已经可以走动、转圈，偶尔还能做个后空翻。从街道到商店，都可看到机器人的身影。机器人已经在我们的心房占据一席之地，有些机器人则按照字面意义，走进了人类的心脏。
无论是在居民生活中还是在战场之上，人工智能都在通过自身特质赋予其服务的人类更多样的能力。随着机器人日渐普遍，这些螺钉机器和肉体凡胎的我们之间肯定会产生摩擦。那么，在人类制造的智能机器越来越多的时候，我们如何在最小化人类和机器人冲突的同时，确保它们和我们有相同的价值观。
阿西莫夫先生，坐稳了，请听我说。
在过去一年中，谷歌DeepMind成立了伦理与社会研究室，重点研究人工智能产生的社会影响。与此同时，我们也见证了性爱智能机器人的崛起。人类也必须慎重考虑：我们正在研发的军用机器人是否会严格地听从命令，机器人外科医生是否会遵守希波克拉底誓言。不是说不能把这些限制写进人工智能操作系统的编码里，只是人类需要注意到这些细枝末节。尤其是在即将到来的2018年，人工智能将会愈发深入我们的日常生活。
阿西莫夫制定了著名的机器人学三定律。但在佐治亚理工学院移动机器人实验室的董事教授和负责人罗恩·阿尔金看来，“这是一种完美的文字描述，却不能付诸于机器人的实际设计之中。”回想1942年，当时机器人王国顶多算是初步成型，那2017年依旧使用彼时制定的定律，无异于墨守成规。
罗恩·阿尔金带领团队与陆军研究办公室展开了合作，致力于构建一种机器人伦理体系——一个可以指导机器人在战场上如何行动的软件。阿尔金说道：“在这之中，我们会研究如何让机器人软件系统在国际人道主义法的限定下进行。”
阿尔金继续说道：“我们可行事研究的范围，非常狭窄。我们也不是要求这种系统可以在更广泛的意义上代替人类道德推理，但是当你向人类和机器人下达同样指令的时候——显然以不同的形式——你会倾向于指导一位人类战士而不是机器人系统如何与敌人作战。”
明确地说，下达指令的情景是由我们判定的。阿尔金说：“如果你愿意这么说的话，人类也要受机器人所遵循的限制条件的约束。”这不只是简单的向谁射击的问题，而是是否要拨动扳机的问题。阿尔金补充道，“如果它发现附近是不应摧毁的文化财产，或者射击目标离清真寺或学校等平民财产很近，它就不应该进行射击。”
正因阿尔金所说的“道德界限”，机器人和无人驾驶飞机还不足以代替人类战士，至少明年肯定不会。但是在某些情况下，比如说在清理建筑或反狙击行动这些附带损害比较常见的活动，“给机器人下达合适的指令让它去执行，最终结果可能会比让人类战士去做更好。”
在这些狭义的操作中，很有可能会产生人工智能的伦理道德三大定律。“这些约束都需要硬编码。”阿尔金解释道，“就像《日内瓦公约》规定的什么可接受，什么不可接受一样。”
未来，机器学习技能可以使人工智能在战场上发挥更广泛的作用，尽管它们本身并不是不存在危险。阿尔金说：“在我看来，有些机器学习不应该应用到战场上。一个是实地目标指示：由系统确定不同情况下的作战目标。”目前，不论是在伦理还是技术上，我们都没有能力处理这种级别的独立。相应地，“即使有可能会有损任务”，它也应首先通过人机回圈（译者注：将个人或公众群体的判断,融入AI系统的优化中去）的审查。“交战规则在行动期间不会发生改变。”
阿尔金继续说道：“如果我们还是愚蠢到要在战场上自相残杀，就必须找到能够更好地保护非战斗人员的方式。在我看来，这是一种可行的方法。”
2017年，超市领域机器人和人类之间的交流有所增加，就像Amazon Go无人便利店。在即将到来的2018年，我们还是需要尽力避免潜在冲突。卡耐基梅隆大学计算机科学学院的教授及该学院机器学习系的负责人曼勒·维罗索说道：“当机器人进入现实世界时，它们会遇到更多的人类。这与自动驾驶汽车和其将如何与人类交流颇为相似：最终机器人还是需要做道德判断。”我们可以看到，机器人已经占领了生产线和物流中心。而涉及到驾驶问题时，这种谨慎就变得相当必要。
与军事应用不同，社会生活中有更多微妙细节引导着社会习俗，使得机器学习技术成了一个更现实的选择。维罗索说道：“在遇到复杂事物的时候，机器学习有着更高的妥善处理可能性。”
如此一来，基本的社会准则，比如说不许咬、不许叫等，就要被硬编码写进人工智能，而机器学习就可以指引人工智能完成日常任务。“机器学习有着美好的发展前景——在某种意义上，人类在展现他们关心的实际规则和声明的时候并不是做得很好。”维罗索补充道，“但是他们的确身体力行，做出了示范。”
和阿尔金一样，维罗索并不认为我们正在给予机器人通往机器王国的钥匙。她说道：“在很长一段时间内，人工智能都会担当辅助作用，它们应当是推荐系统。”我们也在2017年看到了这种趋势，数字助理也从手机扩展到了我们的家里。这是明年大有可能继续发展的领域。但是“很长一段时间”不是永远。“人工智能系统有着成为伟大的其他‘人’的潜力”，维罗索继续说道。“其他伟大的思想、数据处理器和顾问。”现在，或许还是不要给它们枪为好。
对于我们的机器伙伴，人类也有责任去尊重它们。现在，那些机器人是否——尤其是今年问世的汉森机器人技术公司的类人机器人索菲娅——比你的Keurig咖啡机或Echo扬声器“值得”更多的尊重依旧是一个道德滑坡，只有希迪愿意滑下来。但是，可接受行为的社会标准处于不断变化之中，这也是2018年需要明确成文的事项。
“人类会有不要伤害狗和猫的责任感，”维罗索解释说。“我不认为机器人会像猫狗一样有‘感觉’。我想可能人类应该要习惯于感恩机器的功能，”不要在机器运行不好的时候就“踢冰箱，或者断开面包机。”
“我认为，如果人类不把机器人做得特别像人——有皮肤等一切东西——人们会一直像对待机器一样对待它们，”维罗索，“而它们本来就是机器。”
我们和技术的关系，尤其是与将会达到（并终将超越）人类智力的人工智能的关系正在发生改变，且不会以我们的喜恶而转移。比如说，今年谷歌的AlphaGo把围棋大师们打得落花流水。阿尔金预测，在未来20年内，美国军方不会铺设使用自主智能坦克和终结者类型的战斗机器人，更别说12个月之内了。
美国军方已经开始向企业寻求帮助，研发机器学习和人工智能系统对抗外国网络攻击，第一批研发成果将在明年公布。在不久的将来，从自动导向直升机到现场原件打印（假设伊隆·马斯克并未如愿），我们可能会看到一系列智能技术。最先进的战斗人工智能还处于婴儿期，无法部署可靠有效的技术。而且，这些改变很有可能是由人民社会生活催生的。
“当谈到技术的时候，人们的思维非常开放，在我看来是非常了不起的。”维罗索说，“看看我们生活的世界，再对比一下祖辈们的世界。我们周围存在的技术，简直令人惊叹。我们在学校学到东西，和祖辈们在学校习得的并无什么不同：都是历史、几何和代数，而且我们还要设法和更多的技术共存，因为人类是如此的聪明。”
希望聪明的我们，能在未来对机器人更好一点。
编译丨路会会
选自丨Engadget