关于性能优化

本贴最后更新于 3105 天前,其中的信息可能已经事过境迁

文章目录:
1.为什么要做性能优化
2.性能优化之前,先定位问题
3.Nginx 和 Tomcat
4.Controller 和 Service 又做了什么
5.Memcache 和 DB 做了什么
6.听说他们久经沙场

一 为什么要做性能优化

“这破网站慢死了。”果冻咬着牙说,“这些程序员都是干嘛吃的 ?”
毛毛看着果冻笑,没说话,毕竟果冻说的破网站是“修真院自己的官网”,毕竟果冻说的这些“干嘛吃的”程序员就在他们 UE 组对面。果冻是一个萌妹子,怎么说都行,毛毛做为一个 PM,可是经常注意培宇桌子下面常备两块板砖的。

培宇有一点点脸红,果冻对培宇是一直有偏见的,毕竟当众表白被拒是谁都难以接受的。自那以后,本着“没有打击培宇的机会,就创造打击培宇的机会”的原则,果冻让培宇生生见识到了什么叫做“由爱生恨两重天”。

旁边的小马哥不干了,当场就“哐“的一下拍桌子,整个二楼的人都吓了一跳,看着小马哥。
果冻也一样吓了一跳,回过神来之后就当场发飚了:”伟江你要死吗?“

伟江本来想说”你行你上啊“,但是看了看果冻渐渐变冷的眼神,终究还是说不出口,可是气氛一度很尬啊,只好小声说了一句:”我去找老大解决去。。。。。。“

所有人:”。。。。。“
培宇笑的不行:”伟江就该这么有霸气,在果冻的淫威下终于爆发了,一怒而起,然后一溜烟的跑去找老大了~“

二 性能优化之前,先定位问题

说到性能之前,先谈量化。

说网站慢,那是普通用户的说的话。
而对程序员来讲,必须是到多少 MS。

多少 MS 才算慢?通常来说,人的眼睛对于 200MS 以上的时延是有反应的,所以一般而言,一整个页面都应该在 200MS 之内完成。
对于复杂的请求,可以再稍微慢一点,毕竟大家还能忍,能忍的程度跟网站的价值成正比。反正我看小黄片的时候是挺能忍的~

简单的用户个人信息这种请求,应该在 50MS 左右,List 的数据,差不多在 100MS 左右。这是比较正常的数据。

以上这些全是暗灭大人骂伟江的原话。

”所以你做为一个程序员,过来跟我说网站慢?你应该直接告诉我说现在哪一个请求慢,慢到多少 MS,应该达到多少 MS。“
暗灭大人一边狠狠的骂了伟江一顿,一边继续在 QQ 上教小师妹学习:“小师妹啊,我听说最近刚上映了一部电影叫做《人民的名义》,我看了看,感觉对于写代码很有帮助啊,强烈推荐给你看,这样,刚好有人买了两张电影票给我,我带你一起去学习一下吧。”

伟江赶紧的拿出手机来,两张票买后,然后截图发给老大。
暗灭大人看到截图,这才满意,跟小师妹又回了句:“稍等啊,我要开个董事会。”

“拿白板来!”老大说。

首先,果冻朝你设了一箭。你接到了果冻射过来的这支爱之箭,看了看箭上附的小纸条,写的是什么内容,按果冻的指示把她想要做的事给做完了,然后把结果又放到小纸条上,再扔回给了果冻,果冻收到箭之后,打开看完。
这是一个完整的 Http 请求过程。

然后老大在白板上这么画了一下。


这表示,对于一个网络请求来说,第一个层面,你需要知道的时间的损耗可以分解成三大部分。

第一部分前端的响应,一般包括解析和渲染,这部分的性能跟前端的代码,前端硬件有关系。
第二部分就是网络延迟,这部分的代码正常来讲是在 8~16MS 左右,是的,Http 请求就是差不多这个性能,如果是 WebSocket 几乎可以做到零延迟,有暗灭大人当年写的多人在线扫雷(http://game.ptteng.com 支持多人在线玩扫雷,一个人点错所有人完蛋的恶趣味)为证。
第三部分就是服务器端的响应,我们说的是网站慢,一般而言,也就是主要在这里,要做性能优化的地方,基本上也是看这里。

伟江听的正津津有味,突然间发现老大已经转身要走了,赶紧拿出手机来又订了一个烛光晚餐。
“老大,老大,我怎么才能知道每一段时间间隔多久呢?在哪可以看得到啊?”

“F12,Fiddle 都行啊,这种叫端到端的响应时间,服务器端的响应时间啊,要看 Nginx 的 Access.log.”老大满意的点了点头:“伟江的学习态度很好嘛,不像培宇,太笨,又不肯用心。”

“Access.log 里会记录服务器端自己的响应时间,这是后端查看性能的重要依据,也是找运维背锅的必备技能。一旦你发现服务器端的响应时间没问题,而端到端的响应有问题,那就百分百的是网络问题了,可以直接找运维同学背锅了。”

“这些是做性能优化之前必须要弄明白的,问题到底出在哪儿呢?否则怎么做性能优化?所以解决性能的问题,跟你泡妹子是一样的,要先脱掉妹子的外套,再脱掉外套里面的上衣,然后。。”

伟江擦了擦口水,说:“老大,如果确实是我们后端的问题呢,前端响应正常,网络传输也正常,就是后端响应出问题,该怎么解决?”

三 .Nginx 和 Tomcat

“为什么要在前端挂一个 Nginx,而不是直接用 Tomcat 呢?”
“你别管,总之好处多多了,不过是域名,还是跨域,还是防 Ddos 攻击,Nginx 都是利器,很好用。现在就照着来。”

Nginx 相当于是一个大的总管,所有的请求都是先到 Nginx 这里来,然后再发给后面的 Tomcat,或者是 Resin 什么的。
后面的 Tomcat 像当于是一个个漂亮女生宿舍的话:

所以 Nginx 就像当于是女生宿舍的门卫

对的。总之 Nginx 很赞,我很喜欢。Nginx 会记录有所有的出入时间。
如果 Nginx 的耗时比较长,一般而言,问题都不太会直接出在 nginx 身上,可以直接再去查 Tomcat/resin/jetty 这些女生宿舍的岗了,哦,不是,去查看这些服务器的日志响应时间了。

所以,Nginx 和 Tomcat 之间的图应该是这样的。

Tomcat 本身也会有一个日志记录,也是 Access.log,其他的叫别的什么日志无所谓了,反正从名字来看,就是进女生宿舍的时间和离开的时间--那群 Tomcat 的研发人员一定是做了很多的实地调研才能有如此神似的命名。

那么锅就继续甩给了 Tomcat。Tomcat 之后是什么呢?基本上就全部是 Java 人员写的代码了。所以我们要不要往女生宿舍里偷偷看一眼?
可是最关键的就是女生宿舍吧,哪能只偷偷看一眼就走!”伟江有点不满意。

四 .Controller 和 Service 又做了什么

说的没错,Tomcat 里的时间其实还可以再分解的更细一些。第一个接受到响应的就是 Controller,而之前说过,Controller 通常是用来控制 Service 的,你可以理解为,每一个 Service 就是一个漂亮妹子。

Controller 就是一个宿舍的宿管员。就是少林足球里的包租婆,她来负责管理这些小妹妹做什么事儿。

Controller 依次调用女生 Service1,女生 Service2,女生 Service3~然后再把结果返回给你。

所以 Tomcat 响应的时间可以分为:
1.Controller 的处理时间
2.Service 的调用时间
3.返回结果的处理时间

controller 本身的处理事情,一般都会是在开始和结束各打一条毫秒数这是所有的业务逻辑处理的总时间。调用各 Service 的时间包含网络传输和 Service 的响应时间。返回结果的时间一般都是解析成 Json 的时间。

生成 Json 的时间通常很短,很短,网络传输的时间说不好,RMI 的话,除第一次建立连接外,几乎可以忽略不计,但是一个 Controller 里调用上百次的话,速度就会慢起来。Http 无疑是最慢的,单纯建立就要花几 MS,对性能有更高要求的话,用 Thrift 和 ProtocolBuffer 等。

而我一般都喜欢用 RMI,不喜欢异构的东西,Http 又引入了额外的负担,所以比较喜欢用 Tuscany 直接调用 RMI。

所以性能优化的重点,就是要弄明白,如果一个大老爷们,比如说培宇,进了女生宿舍之后,总共花了 500 多 MS 的时间,他在包租婆那里花了多长时间?他跑到妹子 1 的床前花了多久?和妹子 1 在一起同几 MS?跑到妹子 2 的床前是多久?在妹子 2 那里花了几 MS?

这些数据都要清清楚楚,还是要用图来表明一下。

这个就是小培宇。如果他爬上每一个妹子的床之后都回来找包租婆登记一下,就是这样的。
如果他爬了一个妹子的床,然后赶紧的去爬了另一个妹子的床,这就是另一个服务调用服务的过程了。

这两种方式的优劣,我们随后再说。

如果他进去之后变成了 8 个小培宇,每个小培宇分别去上 8 个妹子的床,这就是多线程和异步。

如果他自己带了一个小黑板,啪啪啪写上自己的地址,然后就走。8 个妹子看到地址之后各自去找小培宇,这就是消息队列。

总之,先不讨论这么复杂的东西,我们就只说,培宇是一个妹子一个妹子的上。。。。。床。

那么,Controller 那里应该怎么统计时间呢?

一般而言,我们会手写一个 AOP 的 Util。并不会在 Controller 里手写 StartAt 和 EndAt。

这个 Aop 写起来很容易,正常来讲,会在代码里这么写:

如果超过了 50MS,记录日志,入参,时间。
如果不超过 50MS,不记录。

这个 50MS 依据每个人的身体情况,哦不,依据每个应用的情况来自行设置。

所以,到了这里,你就会知道了,我们把果冻射来的爱之箭,已经穿透了包租婆,到了女生宿舍,并且分解到了每一个床位的时间。

这就是一个分析和定位的过程,而通常就是在 Controller 的代码里,一般我们都叫做 WEB 工程,在这里去用 Aop 来记录第一个 Service 的响应时间。

如果我们发现了,培宇在 2 号女生那儿花费的时间特别长呢?

五.Memcache 和 DB 做了什么

“那就把培宇阉了!”伟江斩钉截铁的说。
“好的,现在就动手。” 老大满怀期待的看着他。

这得把培宇喊过来,问问他在 2 号女生那里做什么了。
写到这里我必须得说,这是公开版,公开版只能说,培宇在约 2 号女生看电影。

内部版,非公开发生的,培宇做的事情就比较多了。。

好了,先说看电影。

培宇说:乖,我们去看电影吧。
妹子说:好的,我要找找我的身份证。

这个时间发现身份证不在身边,在老家,于是妹子说,乖,你等着,我去老家把身份证拿过来。
这就叫做直接从 DB 里拿数据。

所以时间性能的损耗,就在于是:培宇和妹子说话,妹子回老家拿身份证。
大概的场景就是这样的。

培宇说:乖,我们看电影去吧。
妹子说:好啊,好啊,等我,我回老家拿身份证,然后一个月过去了。
培宇和妹子想了想,还是没办法看电影。

第二次培宇又说:乖,我们看电影吧。
妹子说;好啊,好啊,等我,我回家拿身份证,然后一个月又过去了。
培宇和妹子再见面之后,想了想,还是没办法看电影。

上一篇讲过 Dao。其实 Service 里对于 Dao 的访问时间分析,也是这么记录的。同理,如果你要用到多个 Dao,可能是先回老家拿身份证,再去商场买件衣服等等等等。

而我们统计妹子去拿身份证的时间,也是同理可以用刚刚说过的 Aop 的性能统计 Util.

这样一个 Service 处理事情的时间,就分成了本地运算和获取数据的时间。
通常本地运算的时间会比较快,而获取数据的时间会比较慢。

如果说你发现了妹子总是回老家,而且时间刚好是一个月,你怎么办?
给妹子提个醒,可不可以把身份证放到旁边的衣柜里?这样我们就可以直接从衣柜里拿身份证了啊。

这个衣柜,就叫做缓存。
而一般而言,我们的包租婆是不管妹子从哪拿身份证的,总之能接待好客人,呃,接待好培宇就行了。

所以如果要继续区分,性能问题。必须要知道,数据有没有走缓存?从缓存中的数据取出来要多久?正常情况下应该几 MS,为什么妹子花了 20 多 MS?是不是柜子前面的人比较多?还是从床到柜子中间的路坏了?柜子是在哪里放着的?

妹子回老家取身份证,会不会堵车?

这些都是需要靠日志来记录时间,也简单提醒一下,假设不是培宇一个人来呢。10000 个人同时来呢?你必须得在日志里记录一些关键信息,确保知道哪个时间是哪个老板,呃,哪个客户的。

六.听说他们久经沙场

其实性能优化有很多很多方案,不同的应用场景,解决方案是不同的。但是最根本的就是要明白,时间倒底损耗在什么地方?
对于果冻来说,就是简单的射了一支爱之箭,后面做了哪些,是不需要知道的。

可是伟江就必须得明白,培宇对每一个女生宿舍的妹子都做了什么。在保安那里花了多久,在包租婆那里花了多久,在每一个女生床上花了多久,妹子从柜子里取身份证要多久,从老家取身份证又要多久。

我们一直说的,一个程序员的真正工作的地方不在笔记本上,也不是在开发环境,也不是在测试环境,而是在线上环境,就是这个道理。
做为一个老程序员来说,对于线上有哪几台服务器,IP 是多少,内存是多大,硬盘是多大,CPU 是几核的,常用负载是多少,IO 有多少,每天增长的日志是多少,DB 里的数据库大小是多大,每天的增量是多少,系统中最慢的请求是什么,每天会访问多少次,最快的请求是什么,每天应该访问多少次,每次访问的时候正常应该是在多少 MS 内返回,一次会取多少条数据,分解到哪几个 Service,每个 Service 的不同时间请求是多少,有多少穿透 DB 的次数。

所有的这些数据都要了如指掌,这样才能够非常快的定位线上的问题。

我们不能说这样的程序员是一个水平多厉害的高手,但是他如果做到了这么一点,他就是一个久经沙场的老兵,这样才像是一个职业的工程师。

所以这篇文章的重点就在于是,简单的讲解一下时间之箭的运转,中间会有哪些环节,每个环节应该耗费多长时间。
简单说,只有先找到妹子,才会知道应该在妹子身上花多少时间,对吧?

** 技能树.IT 修真院 http://www.jnshu.com**

“我们相信人人都可以成为一个工程师,现在开始,找个师兄,带你入门,掌控自己的学习节奏,学习的路上不再迷茫”。

** 这里是技能树.IT 修真院,成千上万的师兄在这里找到了自己的学习路线,学习透明化,成长可见化,师兄 1 对 1 免费指导。**

  • 程序员

    程序员是从事程序开发、程序维护的专业人员。

    599 引用 • 3541 回帖
  • Java

    Java 是一种可以撰写跨平台应用软件的面向对象的程序设计语言,是由 Sun Microsystems 公司于 1995 年 5 月推出的。Java 技术具有卓越的通用性、高效性、平台移植性和安全性。

    3206 引用 • 8217 回帖
  • 培宇
    1 引用 • 1 回帖

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...

推荐标签 标签

  • OneNote
    2 引用 • 5 回帖
  • OpenResty

    OpenResty 是一个基于 NGINX 与 Lua 的高性能 Web 平台,其内部集成了大量精良的 Lua 库、第三方模块以及大多数的依赖项。用于方便地搭建能够处理超高并发、扩展性极高的动态 Web 应用、Web 服务和动态网关。

    17 引用 • 51 关注
  • etcd

    etcd 是一个分布式、高可用的 key-value 数据存储,专门用于在分布式系统中保存关键数据。

    6 引用 • 26 回帖 • 559 关注
  • 招聘

    哪里都缺人,哪里都不缺人。

    188 引用 • 1057 回帖 • 2 关注
  • Sillot

    Insights(注意当前设置 master 为默认分支)

    汐洛彖夲肜矩阵(Sillot T☳Converbenk Matrix),致力于服务智慧新彖乄,具有彖乄驱动、极致优雅、开发者友好的特点。其中汐洛绞架(Sillot-Gibbet)基于自思源笔记(siyuan-note),前身是思源笔记汐洛版(更早是思源笔记汐洛分支),是智慧新录乄终端(多端融合,移动端优先)。

    主仓库地址:Hi-Windom/Sillot

    文档地址:sillot.db.sc.cn

    注意事项:

    1. ⚠️ 汐洛仍在早期开发阶段,尚不稳定
    2. ⚠️ 汐洛并非面向普通用户设计,使用前请了解风险
    3. ⚠️ 汐洛绞架基于思源笔记,开发者尽最大努力与思源笔记保持兼容,但无法实现 100% 兼容
    29 引用 • 25 回帖 • 152 关注
  • IBM

    IBM(国际商业机器公司)或万国商业机器公司,简称 IBM(International Business Machines Corporation),总公司在纽约州阿蒙克市。1911 年托马斯·沃森创立于美国,是全球最大的信息技术和业务解决方案公司,拥有全球雇员 30 多万人,业务遍及 160 多个国家和地区。

    17 引用 • 53 回帖 • 158 关注
  • Anytype
    3 引用 • 31 回帖 • 59 关注
  • 禅道

    禅道是一款国产的开源项目管理软件,她的核心管理思想基于敏捷方法 scrum,内置了产品管理和项目管理,同时又根据国内研发现状补充了测试管理、计划管理、发布管理、文档管理、事务管理等功能,在一个软件中就可以将软件研发中的需求、任务、bug、用例、计划、发布等要素有序的跟踪管理起来,完整地覆盖了项目管理的核心流程。

    11 引用 • 15 回帖
  • 京东

    京东是中国最大的自营式电商企业,2015 年第一季度在中国自营式 B2C 电商市场的占有率为 56.3%。2014 年 5 月,京东在美国纳斯达克证券交易所正式挂牌上市(股票代码:JD),是中国第一个成功赴美上市的大型综合型电商平台,与腾讯、百度等中国互联网巨头共同跻身全球前十大互联网公司排行榜。

    14 引用 • 102 回帖 • 260 关注
  • golang

    Go 语言是 Google 推出的一种全新的编程语言,可以在不损失应用程序性能的情况下降低代码的复杂性。谷歌首席软件工程师罗布派克(Rob Pike)说:我们之所以开发 Go,是因为过去 10 多年间软件开发的难度令人沮丧。Go 是谷歌 2009 发布的第二款编程语言。

    502 引用 • 1397 回帖 • 241 关注
  • SSL

    SSL(Secure Sockets Layer 安全套接层),及其继任者传输层安全(Transport Layer Security,TLS)是为网络通信提供安全及数据完整性的一种安全协议。TLS 与 SSL 在传输层对网络连接进行加密。

    70 引用 • 193 回帖 • 405 关注
  • 一些有用的避坑指南。

    69 引用 • 93 回帖
  • jsDelivr

    jsDelivr 是一个开源的 CDN 服务,可为 npm 包、GitHub 仓库提供免费、快速并且可靠的全球 CDN 加速服务。

    5 引用 • 31 回帖 • 120 关注
  • webpack

    webpack 是一个用于前端开发的模块加载器和打包工具,它能把各种资源,例如 JS、CSS(less/sass)、图片等都作为模块来使用和处理。

    43 引用 • 130 回帖 • 259 关注
  • 酷鸟浏览器

    安全 · 稳定 · 快速
    为跨境从业人员提供专业的跨境浏览器

    3 引用 • 59 回帖 • 64 关注
  • ngrok

    ngrok 是一个反向代理,通过在公共的端点和本地运行的 Web 服务器之间建立一个安全的通道。

    7 引用 • 63 回帖 • 668 关注
  • InfluxDB

    InfluxDB 是一个开源的没有外部依赖的时间序列数据库。适用于记录度量,事件及实时分析。

    2 引用 • 123 关注
  • Laravel

    Laravel 是一套简洁、优雅的 PHP Web 开发框架。它采用 MVC 设计,是一款崇尚开发效率的全栈框架。

    19 引用 • 23 回帖 • 770 关注
  • OnlyOffice
    4 引用 • 41 关注
  • Dubbo

    Dubbo 是一个分布式服务框架,致力于提供高性能和透明化的 RPC 远程服务调用方案,是 [阿里巴巴] SOA 服务化治理方案的核心框架,每天为 2,000+ 个服务提供 3,000,000,000+ 次访问量支持,并被广泛应用于阿里巴巴集团的各成员站点。

    60 引用 • 82 回帖 • 636 关注
  • 阿里巴巴

    阿里巴巴网络技术有限公司(简称:阿里巴巴集团)是以曾担任英语教师的马云为首的 18 人,于 1999 年在中国杭州创立,他们相信互联网能够创造公平的竞争环境,让小企业通过创新与科技扩展业务,并在参与国内或全球市场竞争时处于更有利的位置。

    43 引用 • 221 回帖 • 11 关注
  • Lute

    Lute 是一款结构化的 Markdown 引擎,支持 Go 和 JavaScript。

    29 引用 • 202 回帖 • 53 关注
  • Shell

    Shell 脚本与 Windows/Dos 下的批处理相似,也就是用各类命令预先放入到一个文件中,方便一次性执行的一个程序文件,主要是方便管理员进行设置或者管理用的。但是它比 Windows 下的批处理更强大,比用其他编程程序编辑的程序效率更高,因为它使用了 Linux/Unix 下的命令。

    126 引用 • 83 回帖 • 2 关注
  • NetBeans

    NetBeans 是一个始于 1997 年的 Xelfi 计划,本身是捷克布拉格查理大学的数学及物理学院的学生计划。此计划延伸而成立了一家公司进而发展这个商用版本的 NetBeans IDE,直到 1999 年 Sun 买下此公司。Sun 于次年(2000 年)六月将 NetBeans IDE 开源,直到现在 NetBeans 的社群依然持续增长。

    78 引用 • 102 回帖 • 724 关注
  • Spark

    Spark 是 UC Berkeley AMP lab 所开源的类 Hadoop MapReduce 的通用并行框架。Spark 拥有 Hadoop MapReduce 所具有的优点;但不同于 MapReduce 的是 Job 中间输出结果可以保存在内存中,从而不再需要读写 HDFS,因此 Spark 能更好地适用于数据挖掘与机器学习等需要迭代的 MapReduce 的算法。

    74 引用 • 46 回帖 • 563 关注
  • Maven

    Maven 是基于项目对象模型(POM)、通过一小段描述信息来管理项目的构建、报告和文档的软件项目管理工具。

    188 引用 • 319 回帖 • 222 关注
  • OAuth

    OAuth 协议为用户资源的授权提供了一个安全的、开放而又简易的标准。与以往的授权方式不同之处是 oAuth 的授权不会使第三方触及到用户的帐号信息(如用户名与密码),即第三方无需使用用户的用户名与密码就可以申请获得该用户资源的授权,因此 oAuth 是安全的。oAuth 是 Open Authorization 的简写。

    36 引用 • 103 回帖 • 44 关注