人工智能时代的双刃剑

“人工智能将是人类最重要的成就，但可惜可能是最后一个”——Stephen Hawking

深入了解一个事物的物理学原理，例如材料的原子结构，将有机会更加有效地应用概念，从而创造出新的设备。为此，我们需要新的技术，而人工智能就是其中之一。

人工智能越来越多地出现在我们的认知中，不仅如此，还有机器学习和深度学习，而且这二者有时还会被混为一谈。事实上，“人工智能（artificial intelligence , AI）”这个词最早出现于1950年代，它包含所有能够执行人类智力相关任务的计算机。机器学习只是实现人工智能的一种方式，而深度学习则是与机器学习相关的众多方法之一。

人工智能涉及所有与人类智力有关，但由计算机执行的操作。它包括规划、语言理解、物体和声音识别、学习和解决问题。而人工智能与物联网（IoT）之间的关系就好比人脑和人体之间的关系。通过视觉和触觉等各种感官输入，我们的身体能够识别特定的处境并执行相应的动作。大脑根据感官输入做出决定，并向身体发送信号以指挥其运动。物联网也只不过是一组连接在一起的传感器，只有借助人工智能，它才能理解所有获取的数据，再通过控制系统或电路核心（即CPU）做出决策并操作执行器，最终实现各种运动（如机器人手臂）的控制。

机器学习与深度学习

机器学习（ML）本质上是实现人工智能的一种方法；属于人工智能的一种子组（subgroup），专注于让机器拥有接收一组数据并自行学习的能力，当它们获得与正在处理的任务相关的更多信息时，可以不断调整算法。人工智能和机器学习这两个术语经常被互换使用，尤其是在大数据领域。实际上，“机器学习”一词是在“人工智能”之后创建的，它描述了“机器无需明确编程即可学习的能力”。因此，机器学习是一种“教育”算法的方法，这让它可以从各种环境处境中学习。教育，或用一个更恰当的词，训练，是指使用大量数据和有效算法以便根据发生的状况进行调整（和改进）。

机器学习利用神经网络方法和统计模型自动构建分析模型，来查找数据背后隐藏的信息。而神经网络的出现源于由互连单元（如神经元）构成的人脑功能，这些互连单元通过响应外部输入来处理信息，从而在不同单元之间传递相关信息。机器学习的一个典型实例就是人工视觉系统，即通过计算系统来识别图像传感器以数字方式获取的对象。在这些情况下应用的算法必须能够识别特定对象，区分它们是动物、物体还是人类，同时还能从处境中学习，也就是说，它必须存储已经完成的任务，并将之有效应用在下一次计算机视觉习得中，这主要应用于自动驾驶汽车系统。

深度学习是机器学习的一种方法，它从人脑的结构或各种神经元的互连中汲取灵感。其他的机器学习方法还有归纳逻辑编程、聚类和贝叶斯网络等。其中贝叶斯网络基于由一组变量及其条件依赖组成的 DAG 模型（有向无环图）。这种模型可以表达疾病和症状之间的概率关系，即以给定症状作为输入，可以估计出给定疾病发生的概率。

深度学习采用了具有各种处理单元的大型神经网络模型；它利用计算的发展和训练技术通过大量数据来学习复杂的模型。其常见应用包括成像和语音识别。由于涉及的层次很多，深度学习的概念有时被简称为“深度神经网络”。

近年来，机器学习和深度学习让人工智能获得了巨大的发展。这两者都需要无数传感器收集大量的数据，而且越来越多的传感器还在继续填充物联网生态系统，这进一步改善了人工智能。改善物联网生态系统将引领人工智能，继而引领能够成功实施的方法。从工业角度来看，人工智能可用于预测机器何时需要维护，或分析生产过程以实现大幅效率提升，从而节省数以百万计的资金。而消费者利用人工智能将有机会以最佳方式管理他们的时间和条件。

人工智能是一把双刃剑

电子技术的进步持续推动着人工智能和物联网的共生；计算机处理和数据存储的发展使得整合和分析更多数据成为可能；减少计算机芯片和改进制造技术带来了成本更低但更强大的传感器；而无线连接则以非常低廉的价格提供了大量数据，并允许所有这些传感器将数据发送到云端；云的诞生让这些数据的存储几乎不受限制，并提供了相当可观的计算处理能力。所有这些进步都让人工智能更接近其最终目的，即创造越来越多的智能机器，并融入我们的日常生活。

为了实现人工智能和机器学习的持续发展，驱动算法和相关决策的数据必须是高质量的，才能被正确解释。随着连接到互联网和相互连接物联网设备的激增，收集、存储和处理的数据量每天都在增加，这为大数据的安全和隐私保护带来了新的挑战。黑客带来破坏性攻击的风险也与日俱增。预防这些风险，需要所有组织机构严格控制数据的产生、存储和通信，因为黑客有可能会控制重要系统并在任意时间内为所欲为。

具体有哪些风险呢？

几十年来，人工智能经历了它的繁盛时代，我们在语音识别和自动驾驶汽车等各个领域都能看到它的身影。但是，从史蒂芬·霍金（Stephen Hawking，已于几年前去世），到伊隆·马斯克（Elon Musk）和比尔·盖茨（Bill Gates），这些杰出人物均对人工智能可能带来的风险向我们发出警告，从“奇点”带来的危险，或机器完全控制人类，到网络攻击。有多项研究都强调了机器学习被网络犯罪分子利用而存在的隐患：对数字安全的威胁不仅涉及隐私泄露和数据盗窃，还涉及在这个完全连接的生态系统中，人类生命的安全。这些研究由来自多所大学的众多专家完成，包括牛津、剑桥、斯坦福、耶鲁和巴斯等大学。

人工智能和相关技术的出现为网络安全带来了很多可能性，事实上，这是一把双刃剑，在心怀叵测之人的手中，它将变得非常危险。拥有完美的网络安全策略或解决方案，其重要性与日俱增。而造成这一切的根源就在于智能设备的激增。此外，由于始终连接到物联网生态系统的端点不断增加，网络犯罪分子现在有太多的机会可以渗透到设备中。由于大量的数据被存储，大数据泄露对系统性能和功能安全方面都可能带来毁灭性的后果。大规模的数据安全漏洞影响面将非常广，它不仅损坏声誉，还会带来严重的法律后果。任何组织机构都需要确保他们在数据有用性和隐私权之间取得恰当的平衡。在存储数据之前，有关用户的任何唯一标识符都应被删除。但这本身就存在安全风险，因为删除并不能确保数据在将来仍保持匿名。

随着组织机构存储的数据越来越多，他们还面临硬件和软件加密的挑战。如果需要云端执行分析，则用户就不能加密再发送数据。使用“全同态加密”（ Fully Homomorphic Encryption, FHE）是其中一种解决方案，它允许存储在云端的数据对加密数据执行操作。当数据被解码时，其结果与对明文数据执行操作是相同的。因此，云端将能够在不知道明文数据的情况下对加密数据执行操作。

行业专家分析了黑客和安全专业人员对机器学习算法的大量应用。这场没有规则的战斗使企业防御神经紧绷，但如果处理得当，企业应该可以对特定目标进行系统内攻击，从错误中汲取教训，进而加固系统。在搜索漏洞方面，与自动化的共生将推动网络犯罪分子加快病毒实施操作，并进一步寻找更多的系统弱点。例如，网络犯罪分子可以通过这些功能来扫描软件中以前未知的漏洞，并将其用于非法目的。但机器学习也可以洞察不良行为，补充通过其他手段获得的情报。而且它更加敏捷、更加灵活，因为与其他工具相比，人工智能工具通常部署速度更快，交付运营效果也更快。毕竟，智能安全系统可以击败任何复杂的威胁，但同时也代表着它已成为下一个人工智能网络攻击的目标。

可能会发生的可怕的事

随着全球高科技公司和政府的不断投资，人工智能迅速扩张并已成为一个竞争相当激烈的行业。Markets and Markets 最近的一项研究预测，未来几年其复合年增长率 (CAGR) 将超过 60%，价值超过 150 亿美元。硬件创新的势头也很强劲，这些创新提高了计算机的操作能力，使得在不同的 GPU 平台上运行更复杂的模型成为可能。

大多数单独的人工智能技术将被用于各种机器人控制任务的自动化，它们能够做出关键决策，但也会对整个数字生态系统产生负面影响。因为自动化智能机器可以评估最易被攻击的目标。利用先进的技术，人工智能可以通过操纵系统和禁用安全组件来隐藏“网络感染”。一旦系统被感染，它们就可用于传播各种计算机病毒，包括更高级的勒索软件。

目前，大多数网络犯罪组织均使用各种知名的勒索软件系列，他们修改其源代码来生成不同的样本。采用类似的方式，人工智能技术将能够创建自己的定制恶意软件，它可能是从头开始创建并执行先进的机器学习算法。物联网设备（例如医疗设备）及其背后的资源和数据很可能是其主要攻击点。但我们要应对的案例不仅集中于计算机病毒，还集中在与机器人和无人机相关的方面。从用于消费者或工业活动的简单机器人，到无人机和未来的民用飞行出租车，它们都可能成为潜在的危险武器，极易受到远程操纵。而自动驾驶汽车和整个智慧城市生态系统也可能被刻意误读信号，加剧危险的交通状况。

许多工程师和分析师估计，下一次利用AI的重大攻击可能会在几年内发生。最大的威胁仍然是身份盗用、拒绝服务攻击和密码破解。在日益数字化的世界中，这类攻击会削弱人类的能力并影响公共机构的行政行为。AI还可能是鱼叉式网络钓鱼攻击的关键，它收集和处理数据库数据以轻松链接来自不同源的信息，并发起最佳攻击。许多攻击都可以与人工智能配合，它可能混淆医生的诊断。恶意人工智能与黑客攻击的配合，理论上可以达到无法估量的尺度。

安全专家推测，最大的威胁可能是——人工智能能够利用机器巨大的计算能力创建出新的病毒样本。通过设计，AI可以分析当前的病毒弱点并生成更高级的形式。其首个缺点可能是较高的计算成本，但随着时间的推移，计算成本必会减少。

很多组织机构已经开始打击人工智能恶意软件，为未来可能发生的攻击做准备。但由于人工智能理论上具有的无限潜力，网络安全专家也意识到它越来越难管理并将会严重威胁IT安全。当然，人工智能有望为物理、化学和医学等各个领域的研究提供支持，我们还将看到人工智能如何参与到对新行星的探索当中。

(参考原文：The Age of Artificial Intelligence)

责编：Amy Guan

本文为《电子工程专辑》2021年8月刊杂志文章，版权所有，禁止转载。