性能指标:QPS、TPS、RT、吞吐量

一、QPS 每秒查询

QPS:Queries Per Second意思是“每秒查询率”,是一台服务器每秒能够相应的查询次数,是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。互联网中,作为域名系统服务器的机器的性能经常用每秒查询率来衡量。

二、TPS 每秒事务

TPS:是TransactionsPerSecond的缩写,也就是事务数/秒。它是软件测试结果的测量单位。一个事务是指一个客户机向服务器发送请求然后服务器做出反应的过程。客户机在发送请求时开始计时,收到服务器响应后结束计时,以此来计算使用的时间和完成的事务个数。QPS vs TPS:QPS基本类似于TPS,但是不同的是,对于一个页面的一次访问,形成一个TPS;但一次页面请求,可能产生多次对服务器的请求,服务器对这些请求,就可计入“QPS”之中。如,访问一个页面会请求服务器2次,一次访问,产生一个“T”,产生2个“Q”。

三、RT 响应时间

响应时间:执行一个请求从开始到最后收到响应数据所花费的总体时间,即从客户端发起请求到收到服务器响应结果的时间。响应时间RT(Response-time),是一个系统最重要的指标之一,它的数值大小直接反应了系统的快慢。

四、并发数

并发数是指系统同时能处理的请求数量,这个也是反应了系统的负载能力。

五、吞吐量

系统的吞吐量(承压能力)与request对CPU的消耗、外部接口、IO等等紧密关联。单个request 对CPU消耗越高,外部系统接口、IO速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间。

QPS(TPS):(Query Per Second)每秒钟request/事务 数量
并发数: 系统同时处理的request/事务数
响应时间: 一般取平均响应时间
理解了上面三个要素的意义之后,就能推算出它们之间的关系:

QPS(TPS)= 并发数/平均响应时间
并发数 = QPS*平均响应时间

六、实际举例

我们通过一个实例来把上面几个概念串起来理解。按二八定律来看,如果每天 80% 的访问集中在 20% 的时间里,这 20% 时间就叫做峰值时间。

公式:( 总PV数 * 80% ) / ( 每天秒数 * 20% ) = 峰值时间每秒请求数(QPS)

机器:峰值时间每秒QPS / 单台机器的QPS = 需要的机器

1、每天300w PV 的在单台机器上,这台机器需要多少QPS?
( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)

2、如果一台机器的QPS是58,需要几台机器来支持?
139 / 58 = 3

七、最佳线程数、QPS、RT

1、单线程QPS公式:QPS=1000ms/RT

对同一个系统而言,支持的线程数越多,QPS越高。假设一个RT是80ms,则可以很容易的计算出QPS,QPS = 1000/80 = 12.5
多线程场景,如果把服务端的线程数提升到2,那么整个系统的QPS则为 2*(1000/80) = 25, 可见QPS随着线程的增加而线性增长,那QPS上不去就加线程呗,听起来很有道理,公司也说的通,但是往往现实并非如此。

2、QPS和RT的真实关系

我们想象的QPS、RT关系如下

实际的QPS、RT关系如下

3、最佳线程数量

刚好消耗完服务器的瓶颈资源的临界线程数,公式如下

最佳线程数量=((线程等待时间+线程cpu时间)/线程cpu时间)* cpu数量

特性:

在达到最佳线程数的时候,线程数量继续递增,则QPS不变,而响应时间变长,持续递增线程数量,则QPS开始下降。
每个系统都有其最佳线程数量,但是不同状态下,最佳线程数量是会变化的。
瓶颈资源可以是CPU,可以是内存,可以是锁资源,IO资源:超过最佳线程数-导致资源的竞争,超过最佳线程数-响应时间递增。

关注公众号:java宝典

(0)

相关推荐

  • 给字节的学姐讲如何准备“系统设计面试”

    系统设计在面试中一定是最让面试者头疼的事情之一. 因为系统设计相关的问题通常是开放式的,所以没有标准答案.你在和面试官思想的交流碰撞中会慢慢优化自己的系统设计方案.理论上来说,系统设计面试也是和面试官 ...

  • 【竺】性能测试笔记7——理解TPS、QPS、RT、吞吐量性能指标

    从两个层面定义性能场景的需求指标:业务指标和技术指标 业务指标和性能指标之间的关系: 从图中可以知道: 所有的技术指标都是在有业务场景的前提下制定的 技术指标和业务指标之间也要有详细的换算过程 性能测 ...

  • 性能测试:TPS和QPS的区别

    阅读目录 TPS QPS 区别 个人建议 性能测试:从0到实战 自动化测试实战 做测试,ps.jps.tps.qps.rps.hps,你理解几个? 技术群里(652122175),问得最多的就是tps ...

  • 一文搞清楚,QPS、TPS、并发用户数、吞吐量

    一文搞清楚,QPS、TPS、并发用户数、吞吐量

  • 系统吞吐量(TPS)、用户并发量、性能测试概念和公式

    PS:下面是性能测试的主要概念和计算公式,记录下: 一.系统吞度量要素: 一个系统的吞度量(承压能力)与request对CPU的消耗.外部接口.IO等等紧密关联. 单个reqeust 对CPU消耗越高 ...

  • Vocal效果插件三人组:OVox、Vocal Bender与Waves Tune RT

    文:Charles HoffmanWaves有各种人声控制和效果插件,各有其专长,各有其声音.它们彼此之间有何不同?要实现现代而激越人心的人声,你是否需要它们所有呢?在此,我们来比较Vocal Ben ...

  • 如果电源可控制,电机性能指标 或 约束条件可以改变!

    随着电机控制技术的发展,电机的设计条件发生了一定的变化,最为直接的变频技术,使得电机的输入电源频率和电压可调整,自然而然拓展了电机设计的自由度. 首先,变频的软起动功能优势,解决了工频起动时电流和起动 ...

  • Steam最新推出的一款TPS射击游戏,试玩版已上线

    Steam平台上最近又新推出了一部TPS射击大作,中文名为<拾荒者>,官方名称<Scavengers>,采用开放性世界,玩法融入了收集元素和RPG元素,并需要保持全程联网的模式 ...

  • 一天6万多人次!济南机场单日旅客吞吐量创开航29年来最高

    大众网·海报新闻记者 解强民 通讯员 王晓菁 王淑慧 济南报道 记者从济南机场方面获悉,随着"五一"假期正式开启,济南机场迎来客流高峰,4月30日济南国际机场单日旅客吞吐量为613 ...

  • 华硕 RT

    声明 本文章只是本人刷机过程的记录与分享,并不完全保证适用与你的设备.请你在按照本文章内容对你的设备进行操作之前,请核实你的设备型号,认真阅读和理解本文章的内容,并对可能出现的未知问题有解决能力.如果 ...