当AI有限场景已经经过一轮轰炸，初步落地，但大规模深入行业赋能令人踟蹰时，AI该走向哪？在刚刚举行的世界人工智能大会（WAIC）上，商汤科技召开了 “大爱无疆・共生” 主题论坛，正式推出了其原创打造的新型人工智能基础设施 ——SenseCore 商汤 AI 大装置，集商汤内部算力、平台、算法能力为一体，化解 AI 应用落地中的 “长尾应用” 问题。现阶段，AI 需要从海量数据中提取有效信息形成智能，再加上各行各业的场景，就更需要 “爆炸性” 的算力，对数据进行计算，在不断的碰撞中，就能得到最接近实际场景、细碎需求的结果。这也是商汤取名 “大装置” 而来的大规模的破坏性和创造力。AI 大装置一方面是支撑商汤内部研究的基础，是过去几年，商汤在算力、算法、平台上的长期部署和打磨。一方面将基于项目化的 AI 开发，推进为基于装置的规模化落地，AI 大装置也为业内带来了范式转变。2018 年商汤就提出将 “AI 赋能百业”，商汤也是 AI 公司中第一个提出要做大场景、通用平台的厂商，这一点也被后来的 AI 厂商们一一跟随。商汤还承建了智能视觉国家新一代人工智能开放创新平台。此前，商汤就推出过城市开放平台、边缘 AI 能力中心产品、身份认证一体机等，提供从平台、软件到硬件的全栈技术服务。商汤一直在审视算力、软件以及产业赋能间的关系，不断提高算力、平台、算法基础，提供可灵活配置、全套可规模化落地的方案。AI 逐步落地场景，单一的算法无法实现全场景需求的覆盖，而从算法深入到框架，再拓展到底层人工智能平台，就为人工智能软硬件产业链和业内生态实现了延伸，为规模化场景落地提供了可能。大开大合，商汤提供的从来就是基于全场景的基础设施零部件。“AI 大装置”，算力、平台、算法层如何有效联动？到了 “AI 大装置”，商汤的这一切有了更清晰的说明，AI 集成能力进一步体现。商汤的 AI 大装置由算力层、平台层、算法层三个部分组成，包含新型人工智能计算中心（Artificial Intelligence Data Center，AIDC）、深度学习训练框架（SenseParrots）、深度学习推理部署引擎（SensePPL），以及算法层等，形成了一个不断延长的工具链条。算力层：新型人工智能计算中心 AIDC
平台层：数据平台
· 深度学习训练框架 SenseParrots
· 深度学习推理部署引擎 SensePPL
· 模型生产平台
算法层：创新算法模型以及算法开源计划 OpenMMLab
场景是无限的，但人的精力是有限的，那么如何在有限的情况下，实现对无限场景的扩充？答案是用 “无限” 的算力、模型及算法能力，进行匹敌。作为 AI 通用基础设施的赋能者，商汤拿出此前的算力基础、数据平台、深度学习训练框架及开源算法，又着力打造了 AIDC 算力中心、开源框架，将整体打包成一个 “AI 全家桶”，也就是 “AI 大装置”。这一套装置，实现了从算力到算法的能力集合，使行业场景提出后，能迅速实现从 “项目” 到 “落地” 的流程，快速产出更适应场景的解决方案。在平台上，商汤建立了人工智能计算中心 AIDC，这一算力中心以商汤既有的强大算力为基础，整合 AI 芯片及 AI 传感器，支撑对海量数据和算法模型的分析、训练和推理。AIDC 已包含近两万块 GPU，能提供 3740 PFlops 算力。这一上海临港在建的计算中心，也是目前亚洲最大的人工智能算力中心，能满足海量数据的高速调用，同时保证成本低廉，为通用场景的大模型算法提供支持。预计 2021 年底交付。
图丨商汤科技新型人工智能计算中心 AIDC 效果图（来源：商汤科技）
那么商汤为何要自建算力中心？现有人工智能时代对于基础设施的要求，与十年前相比有很大区别。现有厂商提供的云服务，并不能满足未来 AI 大规模研发和规模化落地对算力和工具的需求。商汤的算力打磨，能将大量高性能的服务器、利用高速的网络联结在一起，适应于大模型训练，打造 “新基建”，且已在内部稳定运行超过六年时间。所以商汤打造这样一个存储和计算系统，能实现低成本的、高速的访问。基于大量真实场景的数据，实现几百上千数据集的随机访问。同时商汤现有的研究也都转移到了 AIDC 算力中心，为行业和自研提供双重支撑。而在平台层上，除原有的训练框架 SenseParrots，商汤还新推出了推理框架。训练和推理，是深度学习的一体两面，有了 “训练” 对大量数据进行碰撞、挖掘，再利用 “推理” 框架得到想要的结果，就能实现智能的精准达成。商汤则选择打造了自己的推理框架 SensePPL，并将其开源。这一通用性、云端框架，能满足云端推理的需求，使大量繁杂的数据，在云端进行复杂计算并快速产出结果，支持多平台部署，满足实地的场景智能需求与业务部署。推理和训练相承接，完成了端到端的闭环。SensePPL 还实现了 OpenPPL 开源计划，开源使推理框架的开放性更好，也更显示了商汤强势的基础实力。对于商汤来说，只有框架真正开源才能为更多开发者所使用，使框架从数据和业务中来、再回到中去，形成完整闭环。这也是目前国内少数的开源推理框架，这一点上，商汤比肩的是英特尔和英伟达。同时，在面向视觉的多种模型中，SensePPL 的端到端推理性能实现了对它们的超越。在图像处理上，SensePPL 能快速支撑摄像和智能处理的需求，在毫秒级时间内响应，以自主研发的、极致优化的算子，提供端到端优异性能，充分发挥出芯片的能力。在数据管理、存储、调用上保持优秀，保证数据安全。在更大的愿景上，商汤打造 AI 大装置还可以描述为：一是为支撑不同行业、突破现有技术生态；二是从提供企业级装置，到提供行业平台；三是在实际业务中打磨和迭代，为各形态芯片提供通道、实现算力成本下降。商汤的 AI 大装置能力已经打磨成 “三层结构”：算力层处于最底层，通过近两万块 GPU 提供强大可调用的算力；平台层包括数据平台、算法训练框架和推理引擎，可以打造通用模型，方便部署于各种各样的终端设备；算法层则能基于各种丰富的创新算法工具为企业和行业赋能；不仅如此，商汤还通过 OpenMMLab 计划将领先的算法开源，在开源社区 GitHub 上有超过 37000 颗星。这样就形成了一套可快速部署的 AI 大装置。强大的算力基础提供完善的硬件条件，为 AI 时代爆炸的大数据、大参数模型提供坚强支持，深度学习框架则将算力的实力发挥到最强，最适于通用场景的设计，能发挥出最大算力以及多种功能，开源模式更保证框架应用到多种设备中，完成从终端中来、到终端中去的闭环。算法工具箱和开源的框架，则将具体的 AI 能力快速赋能，快速适用于通用场景及长尾应用的适应化改造。暴力计算解决大多数通用场景的问题，加上少数定制化场景的适配，就能有效完成大规模 AI 的部署、降低 AI 的边际成本。“AI 大装置” 正将精耕自作式的打造，变成工厂流水线式的规模化落地。商汤完成了自循环体系，形成了一个人工智能全流程技术栈，并且通过算力、平台、算法联动起来，为业内提供了完善的 AI 基础设施，也显示出在 “赋能百业” 愿景下的强大实力和气魄。来看一个足够 “长尾” 的例子，比如我们人人都十分常见的电梯场景，和迅达联手，商汤能实现从事前预防、事中干预到事后追溯的全流程智能管理，让安全事故的主动预防成为可能。基于商汤领先的物体检测、行为识别、密度分析等 AI 技术，可提供覆盖自动扶梯入口、扶梯区域和扶梯出口的全场景安全管理辅助：在入口处，系统可对乘客推婴儿车、大件行李和轮椅上梯等安全隐患行为进行语音劝阻；在自动扶梯区域，有乘客摔倒时系统可及时告警，对逆行等不安全行为进行实时提示。
