一个比 MySQL 快 800 多倍的数据库“ClickHouse”

原文链接:
https://mp.weixin.qq.com/s/GV7QLroUJFbVAvKkSnnG8w

原作者:JavaGuide

大家好呀!这里是爱学习的Guide!今天给大家科普一个速度快到飞起的数据库——ClickHouse。

你可能没有用过 ClickHouse ,但是一定听过它的名字。

为了拓展一下自己的知识面,前段时间,我找到了 《ClickHouse 原理解析和应用实践》这本书来看。写得真心不错!

这篇文章我简单从一个 ClickHouse 初学者的角度,给小伙伴们科普一下 OLAP、OLTP 以及 ClickHouse 的前世今生和应用场景。

个人能力有限。如果文章有任何需要补充/完善/修改的地方,欢迎在评论区指出,共同进步!

OLAP 介绍

为了将企业的数据有效整合,快速制作出报表以供数据分析/决策使用,诞生了一个叫做OLAP(Online Analytical Processing,联机分析处理)系统的概念,也叫做现代 BI(Business Intelligence,商业智能)系统。

与 OLAP 相对应的还有一个叫做 OLTP(Online Transaction Processing ,联机事务处理)的概念。这个我们平时日常接触的就比较多了,像企业的 ERP,CRM,OA 等系统都属于 OLTP 系统。

OLTP & OLAP

简单总结一下:

  • OLTP :可以保证操作的事务性,通常需要用到传统的关系型数据库比如 MySQL,主要操作是增删改查(比如添加用户、用户之间转账)。OLTP 通常处理的数据量不会很大,因为数据量大了之后 OLTP 数据库的响应一般会非常慢。
  • OLAP :对数据做分析然后得出一些结果比如数据报表,主要操作是查询(比如生成网站的流量分析报告)。OLAP 处理的数据量往往很大,并且 OLAP 处理的数据对象是数据仓库(data warehouse)中的数据。

数据仓库

OLAP 系统一般以数据仓库作为基础。数据仓库是为了将分散的数据汇聚到一处,将它们统一存储起来。

数据仓库的构建通常还会涉及到 ETL 的过程。ETL 即数据抽取(Extract)、转换(Transform)、装载(Load)。

下面这张图片来自:What is a Data Warehouse? | IBM[1]

大部分用于 OLTP 的数据库都可以执行 OLAP 相关的操作,只不过,效率通常都比较低,毕竟, 这不是它们所擅长的地方。

OLAP 分类

主流的 OLAP 可以分为 3 类 ROLAP、MOLAP、HOLAP。

ROLAP ( Relational OLAP,关系型 OLAP )

对数据不进行预处理,实时聚合计算,灵活性更好!适用于 对查询模式不固定、查询灵活性要求高的场景。常见的 ROLAP 有 Presto,Impala,Clickhouse 等等。

MOLAP ( Multi-dimensional OLAP ,多维 OLAP)

会对数据预处理,这提高了查询性能,同时也降低了灵活性。适用于查询场景相对固定并且对查询性能要求非常高的场景。常见的 MOLAP 有 Druid,Kylin,Doris 等等。

HOLAP ( Hybrid OLAP ,混合型 OLAP)

混合类型 OLAP。通常情况下,查询聚合性数据的时候,使用 MOLAP 技术;当查询明细数据时,使用 ROLAP 技术。在给定使用场景的前提下,以达到查询性能的最优化。

相关阅读推荐:《什么是 OLAP?主流八大开源OLAP 技术架构对比》[2]

ClickHouse

简介

ClickHouse 是 Yandex(俄罗斯的一家做搜索引擎的公司)公司的一个产品,诞生于自家的在线流量分析产品—Yandex.Metrica。

根据 ClickHouse 官方文档[3]介绍:ClickHouse 是一个用于联机分析(OLAP)的 MPP 架构的列式数据库管理系统(DBMS)。

目前的话,国内有很多公司都在使用 ClickHouse ,比如腾讯、字节、金数据、B 站。

下面是腾讯音乐对 ClickHouse 实践:

Github 地址:https://github.com/ClickHouse/ClickHouse 。

腾讯云云数据库仓库ClickHouse

前世今生

其实,ClickHouse 的诞生也是一步一步改进现有系统之后得到的产物!

Yandex.Metrica 的第一版架构其实是基于 MySQL(ROLAP) 来做的。

后来,这一版架构出现了瓶颈,数据量过多(5800 亿)导致分析报告的耗费时间过长。即使对这一版架构进行了大量优化之后,耗费时间也仅仅是提高到了 26 秒。

于是,Yandex.Metrica 的研发团队开始另辟蹊径了!

他们自研了一个叫做 Metrage(MOLAP) 的新系统。Metrage 的架构设计和 MySQl 差别很大,就比如它使用的是 LSM 树作为索引结构而不是 B 树。

Metrage 虽然解决了性能问题,但是,产品方面又有了新的需求。

Metrage 只支持聚合数据查询,因此只有固定的报表分析功能,非常不灵活。我们希望可以有一个系统支持处理自定义报告这类。

于是,Yandex.Metrica 又自主研发出了 OLAPServer(HOLAP) 系统。并且,OLAPServer 使用 SQL 作为查询语言。

OLAPServer 系统专为非聚合数据使用,实时聚合性能非常强!

不过,OLAPServer 也有缺陷比如缺少对数据类型的支持(只支持一种数据类型)。并且,功能也比较简陋,仅仅支持一些简单的功能,并没有一个 DBMS 应该有的基本管理功能比如 DDL 查询。

于是,Yandex.Metrica 继续在 OLAPServer 的基础上进一步完善,最终打造出了 ClickHouse(ROLAP)。

为什么这么快?

ClickHouse 官方给出了一份非常详细的 ClickHouse 性能测试图,并提供了和其他常见数据库的对比。

性能报告地址:https://clickhouse.tech/benchmark/dbms/ 。

通过这份报告,可以非常直观地感受到 ClickHouse 到底是有多快!

这么说吧,ClickHouse 在相同的服务器配置与数据量(1000 万)下,平均响应速度是 MySQL 的 400 多倍,当数据量达到 1 亿的话,平均响应速度是 MySQL 的 800 多倍。

不谈具体的技术与架构,ClickHouse 之所以能够这么快主要得益于下面几点(结合《ClickHouse 原理解析与应用实践》所做的总结):

  • 特殊场景特殊对待 :同一个场景的不同状况,选择使用不同的实现方式,尽可能将性能最大化。比如去重计数 uniqCombined() 函数,会根据数据量的不同选择不同的算法:当数据量较小的时候,会选择 Array 保存;当数据量中等的时候,会选择HashSet;而当数据量很大的时候,则使用 HyperLogLog 算法。
  • 勇于尝鲜,不行就换 : ClickHouse 会优先使用最合适、最快的算法。如果市面上出现了可能会更好用的新算法的话,ClickHouse 通常会立即将其纳入并进行验证。效果不错的话,就继续用着。效果不行的话,就直接踢掉。
  • 持续测试,持续改进 :优秀的软件不是一朝一夕形成的,需要不断的测试改进。

适用场景

ClickHouse 虽然性能很强,查询速度和 MySQL 这类关系型数据库完全不是一个量级。

但是,ClickHouse 并不可以取代 MySQL 这类关系型数据库,它们是互补的关系。

ClickHouse 作为一款 OLAP 数据库,其应用场景主要就是数据分析比如广告流量分析,不适用于 OLTP 事务性操作的场景,因为,它不支持事务并且对按行删除数据不够友好!

(0)

相关推荐