人工智能硬件 | 神经形态芯片 指南v1.0

据预测到2025年，全球人工智能硬件销售额将达1150亿美元。

早在20世纪70年代以来，人们就已经设想出，将人类大脑的功能映射到硬件上，就是直接用硬件“模拟”人类大脑的结构。这种方法称为「神经形态计算」，目前终于开始走向商业化，被称为神经形态芯片（neuromorphic chips）。

软硬件是个交替的过程

80年代末和90年代初，硬件是王者，当时IBM，英特尔，德州仪器都是市场领导者。来自索尼，东芝，松下等日本企业的设备随处可见。

但随着全球消费者口味的转向，开始由硬件往软件、移动设备变化，转向软件时，微软，甲骨文和SAP等公司市场份额开始增长。

IBM、索尼、东芝等错过了向移动设备的转变，开始被苹果，谷歌和三星等软件、移动设备主导的企业所取代。

2011年的时候，IBM开始从硬件模拟人类大脑

IBM 首先推出了单核含 256 个神经元，256×256 个突触和 256 个轴突的芯片原型；

目前，人工智能硬件领域市场上出现了CPU，GPU，TPU，甚至还有FPGA，展现出百家争鸣的现象。

搜索引擎与FPGA

微软必应使用人工智能新硬件，使得搜索性能提高10倍以上！其采用的是英特尔的FPGA(现场可编程门阵列)技术。

在这个以数据为中心的世界，用户对搜索引擎提出了比以往更高的要求，而英特尔® Arria® 和英特尔® Stratix® FPGA完全满足了对高度计算密集型工作负载进行加速，同时保持灵活性，随人工智能模型的快速变化而演变，通过相应调整实现实时人工智能所需的高吞吐量和更高性能。。。

大量公司布局机器学习硬件

NVIDIA、Intel、Nervana、Movidius、Bitmain、Huawei、ARM、Wave等等都在开发定制的高性能芯片，用来训练和运行深度神经网络。

这场商业竞争的关键是， 在处理神经网络时，谁能提供最低的能耗和最高的可测量性能。

百度DuerOS智慧芯片

DuerOS智慧芯片拥有低成本芯片和模组，并自带DuerOS，可放在任何硬件中。

DuerOS在发布芯片时已经投入了实际应用，包括：

DuerOS先是与肯德基合作推出人工智能概念店“Original+”；

在高考期间将DuerOS应用到高考查询报考信息服务中；

携手中信国安广视，打造人工智能电视盒子，并推出DuerOS人工智能操作系统；

联合小鱼在家研发推出个人智能助理

渡鸦科技

在百度世界大会上，渡鸦科技发布了3款人工智能硬件产品—— raven H 、 raven R 及 raven Q ，这是渡鸦自被百度全资收购以来，首次推出的搭载DuerOS的 AI 硬件产品。

阿里

阿里云于2018年也宣布将战略投入到边缘计算技术领域，并推出了物联网边缘计算产品Link Edge，打造云、变、端一体化的协同计算体系。

华为“达芬奇项目”

这是一项重大的活动，将把人工智能技术应用到各种各样的硬件产品中。

国外巨头方面，

谷歌推出人工智能DIY套件

用硬纸板打造你自己的智能硬件

Google 发布了全新的“AIY”（就像 DIY，但是用于人工智能）。这些套件还附带了学生可能需要的所有 AI 解决方案，包括树莓派 Zero WH 线路板。

另外，谷歌在Pixel 2中提供的Pixel Visual Core，是谷歌第一款与机器学习技术有关的移动芯片。该芯片的设计目的是帮助Pixel的摄像头实现HDR+功能。

Facebook 开源 Big Sur 的服务器

服务器装配有图形处理单元（GPUs），是专为深度学习方向设计的芯片。该技术主要是在大量的数据基础上训练人工神经网络，这样，系统之后就能够对其他新的数据做出理解和回应。

为何需要AI芯片

目前的神经网络不能学习新的数据，而每次都需要从头开始重新训练。

而实际情况是，神经网络需要能够自我评估接受重新训练的必要性，以及它们确实知道某些事情的事实。

我们想让机器在不忘记旧任务的情况下完成新任务。

目前的解决方案，有

ASIC加速器

ASIC是帮助CPU快速完成深度学习中的运算（例如卷积），当CPU在执行人工智能算法时只要遇到这种运算就交给加速器去做。

正如大多数设计人员证实的一样，ASIC的设计和生产是昂贵的，并对数量有限的功能进行了高的承诺；ASIC在设计和制造完成之后，几乎没有能力去提供更通用的计算或适用其它用途。

另外还有，

应用于机器学习的计算存储器

Computation in Memory for Machine Learning

该Session的存储器实现包含了两种策略

1、是基于SRAM的计算存储器，对应了 CNN，甚至是在线训练的实现。

2、是基于新材料的ReRAM的存储器。

演化硬件

演化硬件是通过模拟自然演化过程将演化算法的思想用于硬件物理结构的设计，由二个要素构成：一个是以CPLD、FPGA为代表的可编程逻辑器件（PLD），另一个是演化算法。

基本原理是，将可编程逻辑器件的结构和参数等组成的编码位串作为演化算法的演化对象，通过演化算法的演化操作产生当前所需实现功能的相应的编码位串，再将其下载到可编程逻辑器件中，经过反复的需求适应度比较和演化操作，不断地生成趋近于需求适应度最佳的编码位串，最后得到最适合当前环境和动作目的的硬件结构，即通过直接调整可编程逻辑器件的编码位串，从而得到所需的最佳的硬件结构，以确保硬件结构一直处于最适合状态，保持其能够实时高效地工作。

传感器

作为实时推理（Real-time Inference）的最前端，是模拟信号与数字化的人工智能算法间的桥梁。他可以是摄像头，可以是lidar/radar，可以是音频，各种数据类型。

当信号越原始，越早地进入神经网络处理，他就越容易带来意想不到的效果。

传感器里有一种细分应用，

Always-on Detector

就是集成在前端的Always-on Detector的细分应用，比如智能音箱中的Wake-up word detection （唤醒检测），安防应用中的有效区域识别等等，它们处于对于整个神经网络进行开关的位置。

有哪些场景会应用到AI芯片

自动驾驶车辆、智能家居、人工助理以及安全摄像头将是植入的首批应用；

家庭烹饪和清洁机器人、无人侦察机和机器人则是第二批应用。

有哪些产品已经或即将使用AI芯片？

美图手机

美图手机有一个功能：光效相机，用摄像头重构用户的 3D 人脸，获取人脸区域的深度信息，然后用户就可以在照片上进行打光操作，就像有个人工智能控制的专业的灯光师在影棚里帮你操作一样。

在2018年时，人工智能已成为彩电产品的新标配

全球首款4G人工智能投屏智能硬件 爱奇艺电视果4G发布

AI智能音箱、AI智能语音机器人

作为控制中心，用来控制其他硬件！虽然这一切看似美好，但目前的AI智能音箱、AI智能语音机器人还是有缺点，那就是仅支持控制自家出品的智能硬件，有点局限性！想要控制其他品牌的智能硬件，那几乎是不可能！

2017年9月，谷歌 Home 智能音箱出货量为700万台，而亚马逊的 Echo 智能音箱出货量则突破了2000万台，几乎是谷歌 Home 的3倍。

智能灯泡

索尼公司不久前发布了一款全新智能灯泡产品，这一产品不仅可以照明，同时还可以用户家中的其他设备进行交互。

UMind意念机

是脑电产业化过程中的第一代消费智能产品。 它可以实现音乐的自动化推送，采集人的脑波并分析人对音乐的喜好，自动切换收藏音乐。

100款人工智能产品

此模式非常重，不知云智硬件有没有足够的资源支持……

云智硬件重磅推出Ai100赋能型孵化战略，是一个科技企业孵化战略、经营人才复制战略和产品销售网络布局战略。对于这个战略，云智硬件有着清晰的布局和规划，即通过研发定制100款人工智能产品，每款产品成立独立公司经营，由100名企业经营主带领子公司经营扩大。

100款人工智能产品将涉及机器人、智能穿戴、智能VR、智能医疗、智能零售、智能支付、智能家居和生物识别等多个领域，这是云智硬件在人工智能领域的广泛布局，将构建一个涵盖人们文化娱乐、金融科技等产业的新生态链。

医疗是焦点行业

在我们就医的过程当中医生通常只能掌握就医这一时间段的病人数据，而没有之前的数据积累，同时也无法对将来的数据进行监控，这就难免会造成误差，但是如果病人带着一个被卫生部承认的智能设备，医生在就诊时可以使用智能设备的历史数据进行分析，同时在就诊后对患者身体情况进行监控。

据华为《2017中国睡眠质量报告》数据显示,69.4%的用户睡不着觉或睡眠质量不佳,睡眠质量很好的不足1%,每天有7000万人失眠现如今压力的不断增大，催眠市场前景潜力巨大。

从实用角度来说,社会中大部分人是很需要一款睡眠APP，有不少创业者做了睡眠APP，小睡眠APP :

2015年11月1日天使轮嘉道投资600万人民币，2017-02-10：A轮原创资本领投嘉道谷投资跟投2000万人民币

与区块链的结合

HPIPS是一家驱动区块链和人工智能的硬件共享平台

APP将光谱数据与realchain区块链上原始数据进行比对分析。但对于用户而言，采集信息之后就可以直接在手机APP里，查看到这瓶茅台白酒的鉴定结果，不仅简单方便，而且有效地保护了消费者饮酒安全。

展望，

群体智能

能够汇集多个简单智能机器并解决复杂问题的形式，被称作“群体智能”。这种智能模式能够在任何连接到互联网，并拥有人工智能的设备中运行，而不仅仅局限于机器人这一形式。

量子计算机正在快速发展

量子计算有可能同时计算所有可能的组合，并在几秒钟内得出正确答案。

我们现在处于50量子位的水平。让我们把这个数字写进预先考虑的范围。一台32位的量子计算机可以处理40亿个系数和265 GB的信息――你可能会说，这并不令人印象深刻，因为你可以在几秒钟内在一台笔记本电脑上运行类似的程序。

一旦我们开发出了256位量子计算机，真正的游戏规则将会改变。这样的计算机将能够计算出宇宙中所有原子的数量，量子计算是宇宙计算，它对人类文明的影响可能是巨大而深远的。

电力与GDP

看2018年的统计数据，电力增长8．5％，而GDP增长6．6％，电力弹性系数是1．29。也就是说电力每增长百分之1．29，GDP才增长百分之一。

“机器人税”，不同国家根据自己国家意志、机器人行业发展状况等等因素的不同，会有不同的反应。但是在中国，并不具有提出这一话题的可能性，毕竟我们还处于初级阶段。

功耗数据

每块GPU卡的功耗在235W—250W左右，加上服务器的CPU和其他部件，一台4卡GPU机器在工作状态会达到近2000W的功率，而8卡的甚至能达到3600W以上。

隐私保护深度学习

privacy preserving deep learning

可以保证数据只提供给训练模型，从而保护数据隐私，同时也保护数据所有人的个人信息。用户可以在不被泄露个人信息的情况下放心地分享数据。”

更高的技术要求

人工智能必须能够在真实环境中进行无监督学习，从新的经验中学习，结合在各种环境中学到的知识、解决当下的问题。

只有那些可规模化扩展的人工智能硬件，

才能在算法日新月异的今天立于不败之地。

这是一篇「人机协作」的文章，

初稿由darksee.ai「智能写手」生成，

darksee.ai阅读了全网数据。

欢迎在MixLab讨论相关内容、技术实现，

MixLab是一所面向未来的实验室

参考文献

2018年以后的人工智能软硬件和应用将如何发展？

ISSCC 2018 前瞻 之 人工智能硬件篇
索道投资石东华：人工智能+硬件+场景=机器人大爆炸的寒武纪即将到来
美图吴欣鸿：人工智能的未来必须要软硬件结合
全球首款4G人工智能投屏智能硬件 爱奇艺电视果4G发布
人工智能成新经济引擎，云智硬件大力构建AI产业新生态
启动人工智能引擎，云智硬件有望引爆新增长点
人工智能的未来——UMind意念机及其软硬件平台
一款“神奇”的人工智能音箱！居然可以控制小米旗下硬件？
人工智能大乱斗，AI硬件成下一盘厮杀局？有点慌
人工智能“边缘”化，科技巨头都押在AI硬件，软件要被干掉了！
如何选择人工智能硬件开发平台呢？
牧云产品说：从闭环的角度谈个人级别人工智能硬件
距离实践更近一步：了解人工智能技术实现的平台和硬件
2019年人工智能硬件与应用大趋势
百度联手ARM发首款人工智能DuerOS智慧芯片：可放在任何硬件中
FPGA vs. ASIC，谁将引领移动端人工智能硬件的潮流？
人工智能硬件创业不能遗忘的4S机遇
人工智能时代，硬件、算法、行业怎么变？这里是英特尔中国研究院院长的答案
渡鸦科技发布3款人工智能硬件产品，并在三里屯推出智能体验客房
Facebook宣布人工智能硬件平台开源，这步棋是怎么下的？
人工智能一体化前瞻：从硬件链接到智能教育丨拾壹谈
谈谈人工智能发展现状：IBM开始从硬件模拟人类大脑
小米与微软签署战略性合作备忘录，在云计算、人工智能、硬件产品领域进一步深入合作
北大AI公开课 第五讲 人工智能硬件

FPGA是否已经夺得人工智能硬件领域霸主地位？

人工智能新硬件，打开群体智能大时代

谷歌推出人工智能DIY套件：用硬纸板打造你自己的智能硬件！
CPU，GPU，TPU和FPGA如何在人工智能硬件领域争夺霸主地位
为人工智能再来点催化剂，Facebook 也开源了自己的 AI 硬件设计
百度连发两款人工智能硬件新品 小度电视伴侣到手价599元
人工智能硬件+医疗将迎爆发期， 构建产业生态链成核心推动力
Achronix告诉你，新一代人工智能硬件需要具备哪些特质
人工智能时代硬件和软件如何彼此影响
人工智能和硬件的另一个结合，是智能音箱
一张图看懂“百度首款人工智能硬件raven H”背后的中国智能硬件产业
人工智能需要怎样的硬件？
百度世界大会2017：三款人工智能硬件引人注目
没有人工智能的硬件，未来可能不配叫智能硬件
人工智能硬件的爆发，让我们看到了它内在的无限潜力！
忘掉算法，人工智能的未来还要看硬件突破！
2019年人工智能硬件有什么趋势？
百度发布两款人工智能硬件
当人工智能走入智能硬件，科技大佬有话说
人工智能基础设施
第四波计算浪潮到来：人工智能需要怎样的硬件？
人工智能产业链的三个核心，底层硬件、通用AI技术及平台、应用领域相关公司盘点
谷歌的未来：人工智能、硬件和软件
人工智能已在风口，可做智能硬件的都在坑爹？
人工智能助力硬件发展，硬件创业将迎来一波热潮
搞人工智能只懂软件知识,硬件不懂,可以么?
为下一代人工智能构建硬件
人工智能硬件不能遗忘的4S机遇
VR、人工智能及新硬件，Google I/O 上可能出现的惊喜
人工智能硬件加速装置Movidius NCS使用方法详解
人工智能为智能硬件迎来高质量发展曙光
我国人工智能商业化提速 核心硬件仍待加强
深度解读高通AI愿景 人工智能硬件的未来会是怎样？
英伟达在人工智能硬件和软件方面具有领导地位
到2025年，全球人工智能硬件销售额将达1150亿美元
《人工智能硬件和软件@消费类领域》
全球首款区块链人工智能硬件来了，RealChain凭什么搅动消费品市场？
全球首款智能护身符：一款人工智能硬件产品
联想发布人工智能服务器：我们不能只卖硬件
Facebook宣布将开源人工智能硬件平台BigSur
Pepper机器人AWE现场疯狂圈粉 演绎人工智能硬件未来的方向
在人工智能的加持下，中国智能硬件的消费市场已经打开
人工智能越来越近 多家硬件厂商纷纷加入深度学习领域
全球首款区块链人工智能硬件即将面世RealChain成消费品交易领跑者
华为正准备大力推动人工智能硬件的发展
机器人家：人工智能已在风口，可做智能硬件的都在坑爹？
人工智能无人机硬件制造公司Droni Tech完成50万美元种子轮融资
投资人工智能：硬件不再是附庸，是主角
对话式交互将成为主流人工智能硬件成为新入口
谷歌秋季大会连发三款新品：人工智能与硬件进一步融合
微软人工智能新硬件，使必应搜索性能提高10倍以上！
Rokid：人工智能，我们为什么一定要做个硬件？
人工智能真正发力？云付通云智硬件探究人工智能发展
百度联盟峰会猜想：人工智能or智能硬件
智能硬件产品大爆发 人工智能打造产业核心
强强联手打造人工智能硬件创客空间 创营・万物工场正式启动
出海战略成功后，这家中国的人工智能硬件公司该怎么玩？