对实现全面人工智能,应持有谨慎的观点
有史以来,人类一直通过打造工具来帮助人类完成其做不到的事情,每一代工具的产生都会引发人们对关于自然和工作方式的思考。生产力提高,工作被重新定义,新的职业诞生,一些职业消失。计算机认知系统拓展了人类的思维力,替代性的潜力更强。问题的关键是应该建立一个机构,快速培养专业人士,让他们能够利用计算机认知系统作为助手辅助他们各自的工作。这些技能能够加强人类的专业性,为“专家”设定一个全新的标准。
全面人工智能何时实现,甚至是否能够实现,都存在很大不确定性,但是不确定性并不是不去思考控制人工智能问题的借口。针对如何控制人工智能的问题,有针对性的研究刚刚开始,可能需要几十年才能有结果。
可以把应用在具体领域的人工智能对人类的不良影响控制到最小的程度,这需要为机器设定人类的价值标准,设定工作原则和优先级,如与人类的冲突的解决能力。具体领域的人工智能设计工作完成好,就能为设计出不危害人类的全面人工智能做好准备。
基于IBM沃森超级计算机在很多领域的应用经验,在具体领域上,人工智能能够有效的降低风险。然而对于应用全面人工智能的领域,应持有谨慎的观点。IBM计算机的认知系统和其他现代计算机系统一样,是基于云计算结构、运算法则和大量数据构建的。为了防止违规现象出现,这些系统的运转是可以被记录、追踪和审查的。这些认知系统不是自主运转,所以他们的指令、数据、结构需要采取一定保护措施来防止人为的外部攻击。任何接入、更新系统的人都是可控的。主要通过复杂的加密和数字签名来保护数据,通过漏洞扫描和其他技术手段保护运算代码,通过隔离等手段保护计算机结构。
沃森超级计算机在医疗领域的应用是通过处理大量患者医疗数据为医生提供多种处理建议,但它不会给出诊断意见。医生会考虑沃森提出的建议,并综合分析其它因素做出最终的治疗判断。医生在诊断中犯错的主要原因在于医生无法完全掌握关于某种疾病的全部信息,沃森计算机能够帮助医生减少失误,因沃森计算机能提供更加全面的医疗建议。