《大型技术架构》读书笔记

本贴最后更新于 3091 天前,其中的信息可能已经时过境迁
前段时间读了《大型技术架构》一书,现把书中的要点记录下来。
  1. 网站架构模式:分层(单一职责,MVC分层,控制层-服务层-数据层),分割(不同功能与服务分割),分布式(服务调用需要通过网络,带来了网络问题;分布式数据一致性问题),集群,缓存,异步,冗余(冷备份,热备份),自动化,安全。
  2. 常用的分布式方案:分布式应用与服务;分布式静态资源(动静分离JS,CSS,图片等,减轻应用服务器的负载压力);分布式数据与存储(读写分离;分库分表;缓存优化;传统数据库分布式部署;使用NoSQL);分布式计算。
  3. 缓存:CDN(内容分发,部署在离用户最近的网络服务商),反向代理(部署在网站的数据中心),本地缓存(缓存在本机内存中,但是不适合大量的数据),分布式缓存(分布式缓存集群)。热点数据缓存,注意缓存的时间,避免出现数据脏读,影响数据一致性。
  4. 异步:单一服务器可以通过多线程共享内存队列的方式实现;分布式系统中可以通过分布式消息队列实现。典型的模型就是生产者-消费者模式,两者之间不存在直接调用,只是保持数据结构不变。作用:提高网站可用性;加快网站响应速度;消除并发访问高峰。
  5. 性能问题,网站响应速度慢,优化措施:通过浏览器缓存,页面压缩等;使用CDN,动静分离,部署反向代理服务器,缓存热点文件;使用本地缓存与分布式缓存;使用消息队列,异步处理请求;代码层面使用多线程,内存管理等进行优化;数据库方面使用索引,缓存,优化SQL,读写分离等。
  6. 可用性:网站高可用的主要手段就是冗余,通过负载均衡服务器统一一个集群对外提供服务,有效的负载均衡策略;数据服务器进行实时备份,宕机时进行数据转移并恢复。
  7. 网站可扩展性的主要手段是事件驱动架构和分布式服务。事件驱动通常将请求构造成消息发布到消息队列之中,消息处理者通过消息队列中获取消息进行处理。分布式服务是将业务与基础服务分离开来。
  8. 性能优化策略:首先要进行性能数据的搜集,然后针对性能报告进行性能分析,检查请求处理的各个环节的日志信息,分析是哪个环节响应时间较长,检查监控数据,分析影响性能的是硬件设施(内存,磁盘,CPU,网络)还是代码问题还是架构设计不合理,亦或是系统资源不足等。找到问题的原因后再针对不同的问题进行相应的优化。
  9. 浏览器访问优化:减少http请求(合并CSS,JS文件,图片等),http协议是无状态的应用层协议,意味着每次http请求都需要建立通信链路,进行数据传输。使用浏览器缓存(设置http的头字段)。启用压缩(对html,css,js文件进行GZIP压缩)
  10. 网站优化第一定律:优先考虑使用缓存优化性能。
  11. 缓存的基本原理:缓存指的是将数据存储在相对较高访问速度的存储介质中,减少数据访问的时间。缓存的本质是一个内存Hash表,数据缓存以一对Key,Value的形式存储在内存Hash表中。Hash表数据读写的时间复杂度为O(1)。缓存中主要用来存放读写比较高,很少变化的数据,应用程序先读写缓存,缓存中没有或者数据失效再去数据库中查询,并将查询到的数据写入缓存。缓存要考虑数据一致性问题与脏读。可以设置策略是数据更新后马上更新缓存。缓存雪崩问题通过分布式缓存解决。
  12. 分布式缓存:缓存部署在多个服务器组成的集群上。两种缓存架构方式:JBoss Cache为代表的需要更新同步的分布式缓存;以Memcached为代表的不互相通信的分布式缓存。
  13. JBoss Cache的分布式缓存在集群中的所有服务器上都保存相同的缓存数据,当某台服务器缓存更新时,会通知集群中所有的机器进行缓存更新或清除缓存。一般会将JBoss Cache与应用程序部署在同一服务器上。
  14. Memcached采用的是集中式的缓存管理,缓存与应用分离部署,缓存系统部署在专门的集群上,应用程序通过一致性hash等路由算法选择缓存服务器远程访问缓存数据,缓存服务器之间不通信。这样缓存集群可以很简单的实现扩容,具备良好的可伸缩性。采用的是TCP协议(UDP也支持)通信,序列化协议是通过基于文本的自定义协议。服务端和客户端,采用memcached协议交互。
  15. ①负载均衡+session复制,将session同步至每个应用服务器,保证服务的状态。②session绑定,利用负载均衡的源地址hash算法实现将来源于同一IP的请求始终分发到同一台应用服务器上。③利用浏览器的cookie记录下session以及sessionID,将session以及sessionID发送给负载均衡器,负载均衡服务器根据sessionID将请求转发至相应的应用服务器。④设置专门的session服务器统一管理session,应用程序每次读写session都通过session服务器。
  16. 负载均衡算法:轮询:请求依次分发到每台应用服务器上;加权轮询:根据应用服务器的性能进行加权重新分配;随机;最少连接:记录每个应用服务器正在处理的请求连接数,将新的请求分配到连接数最少的服务器上;源地址散列。
  17. 网络IO的实现:BIO;NIO;AIO。
  18. BIO采用阻塞的方式实现,也就是说一个Socket套接字需要使用一个线程来处理。支持并发的连接,需要更多的线程来完成这个工作。
  19. NIO基于事件驱动思想,采用的是Reactor模式。可以在一个线程中处理多个套接字Socket相关的工作。Reactor会管理所有的handler,并把出现的事件交给相应的handler去处理。
  20. AIO就是异步IO。采用Proactor模式,AIO与NIO的区别:AIO在读写操作时,只需要调用相应的read/write方法,并且需要传入CompletionHandler;在完成动作后会调用CompletionHandler。而NIO的通知是发生在动作之前,是在可写可读的时候,selector发现这些事件后调用handler处理。
  21. 控制器的变化:使用硬件负载均衡——》使用软件负载均衡(LVS)(透明代理,请求发送发和处理方都不需要知道对方,但是存在不足:增加网络的开销,比如流量和延时;代理出现问题则所有请求都会受到影响)——》采用名称服务直连方式请求调用(名称服务器是通过跟请求处理的机器交互来获取这些机器的地址)——》采用规则服务器控制路由的请求直连调用(规则服务器本身并不和请求处理的机器进行交互,只负责把规则提供给请求发起的机器)——》master+worker的方式(存在一个master来管理worker)
  22. 运算器的变化:DNS调度——》DNS+负载均衡调度(DNS返回的永远都是负载均衡设备的地址)
  23. 存储器的变化:单机的Key-Value服务——》使用代理服务器的多机Key-Value服务——》使用名称服务的Key-Value服务——》使用规则服务器的Key-Value服务——》通过Master的Key-Value服务
  24. 分布式系统的难点:①缺乏全局时钟;②面对故障独立性;③处理单点故障;④事务的挑战
  25. 数据库读写分离:两个问题:数据复制问题(使用数据库本身提供的数据复制机制,但还是存在复制延时的数据不一致性问题);应用对于数据源的选择问题(写操作要走主库,事务中的读操作也要走主库)
  26. 搜索引擎技术解决大型网站站内搜索时的某些场景下的读的问题,提供了更好的查询效率,站内搜索结构和使用读库非常相似,只是多了自己建立数据索引的步骤。
  27. 缓存:数据缓存(全数据缓存(数据库的数据发生变化后会把数据写入到缓存中,保证数据不会读取失效);热数据缓存(应用访问缓存,如果数据不存在则去数据库里读取并把数据加入到缓存中));页面缓存(ESI规范)
  28. 缓存的一个关键指标缓存命中率,如果缓存命中率比较低的话就意味着有不少请求要回到数据库中查询。还要考虑缓存服务器的扩容与缩容(一致性hash)以及缓存数据更新(定时失效,数据变更时失效,数据变更时更新)。
  29. 数据库拆分:专库专用,数据垂直拆分(不同业务数据拆分到不同的数据库中);数据的水平拆分(把同一个表的数据拆分到不同的数据库中)。
  30. 服务化:把应用分为三层,处于最上端的是Web系统,用于完成不同的业务功能;处于中间的是一些服务中心,不同的服务中心提供不同的业务服务,处于下层的则是业务的数据库同时引入了远程调用,共享代码不再散落在各个应用中而是放到了各个服务中心上。数据交互工作由业务服务中心完成。
  31. 远程过程调用和对象访问中间件(主要解决分布式环境下应用互相访问的问题);消息中间件(解决应用之间的消息传递,解耦以及异步问题);数据访问中间件(主要解决应用访问数据库的共性问题)
  32. 静态代理与动态代理?静态代理为每一个被代理的对象构造对应的代理类。动态代理是动态地生成具体委托类的代理实现对象,通过Proxy.newProxyInstance来创建代理方法可以为不同的委托类都创建代理类。方法调用使用invoke。
  33. 服务化使得原来的一些本地调用变为了远程调用。远程调用:获取可用服务地址列表->确定要调用服务的目标机器->建立连接->请求序列化->发送请求->接受结果->解析结果
  • 架构

    我们平时所说的“架构”主要是指软件架构,这是有关软件整体结构与组件的抽象描述,用于指导软件系统各个方面的设计。另外还有“业务架构”、“网络架构”、“硬件架构”等细分领域。

    142 引用 • 442 回帖
  • Java

    Java 是一种可以撰写跨平台应用软件的面向对象的程序设计语言,是由 Sun Microsystems 公司于 1995 年 5 月推出的。Java 技术具有卓越的通用性、高效性、平台移植性和安全性。

    3190 引用 • 8214 回帖 • 1 关注
  • 分布式
    80 引用 • 149 回帖 • 4 关注

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...

推荐标签 标签

  • Linux

    Linux 是一套免费使用和自由传播的类 Unix 操作系统,是一个基于 POSIX 和 Unix 的多用户、多任务、支持多线程和多 CPU 的操作系统。它能运行主要的 Unix 工具软件、应用程序和网络协议,并支持 32 位和 64 位硬件。Linux 继承了 Unix 以网络为核心的设计思想,是一个性能稳定的多用户网络操作系统。

    946 引用 • 943 回帖
  • Oracle

    Oracle(甲骨文)公司,全称甲骨文股份有限公司(甲骨文软件系统有限公司),是全球最大的企业级软件公司,总部位于美国加利福尼亚州的红木滩。1989 年正式进入中国市场。2013 年,甲骨文已超越 IBM,成为继 Microsoft 后全球第二大软件公司。

    105 引用 • 127 回帖 • 370 关注
  • 链书

    链书(Chainbook)是 B3log 开源社区提供的区块链纸质书交易平台,通过 B3T 实现共享激励与价值链。可将你的闲置书籍上架到链书,我们共同构建这个全新的交易平台,让闲置书籍继续发挥它的价值。

    链书社

    链书目前已经下线,也许以后还有计划重制上线。

    14 引用 • 257 回帖
  • IBM

    IBM(国际商业机器公司)或万国商业机器公司,简称 IBM(International Business Machines Corporation),总公司在纽约州阿蒙克市。1911 年托马斯·沃森创立于美国,是全球最大的信息技术和业务解决方案公司,拥有全球雇员 30 多万人,业务遍及 160 多个国家和地区。

    17 引用 • 53 回帖 • 139 关注
  • gRpc
    11 引用 • 9 回帖 • 69 关注
  • C++

    C++ 是在 C 语言的基础上开发的一种通用编程语言,应用广泛。C++ 支持多种编程范式,面向对象编程、泛型编程和过程化编程。

    107 引用 • 153 回帖
  • BAE

    百度应用引擎(Baidu App Engine)提供了 PHP、Java、Python 的执行环境,以及云存储、消息服务、云数据库等全面的云服务。它可以让开发者实现自动地部署和管理应用,并且提供动态扩容和负载均衡的运行环境,让开发者不用考虑高成本的运维工作,只需专注于业务逻辑,大大降低了开发者学习和迁移的成本。

    19 引用 • 75 回帖 • 653 关注
  • 生活

    生活是指人类生存过程中的各项活动的总和,范畴较广,一般指为幸福的意义而存在。生活实际上是对人生的一种诠释。生活包括人类在社会中与自己息息相关的日常活动和心理影射。

    230 引用 • 1454 回帖
  • Ruby

    Ruby 是一种开源的面向对象程序设计的服务器端脚本语言,在 20 世纪 90 年代中期由日本的松本行弘(まつもとゆきひろ/Yukihiro Matsumoto)设计并开发。在 Ruby 社区,松本也被称为马茨(Matz)。

    7 引用 • 31 回帖 • 216 关注
  • Markdown

    Markdown 是一种轻量级标记语言,用户可使用纯文本编辑器来排版文档,最终通过 Markdown 引擎将文档转换为所需格式(比如 HTML、PDF 等)。

    167 引用 • 1520 回帖
  • Flume

    Flume 是一套分布式的、可靠的,可用于有效地收集、聚合和搬运大量日志数据的服务架构。

    9 引用 • 6 回帖 • 637 关注
  • 资讯

    资讯是用户因为及时地获得它并利用它而能够在相对短的时间内给自己带来价值的信息,资讯有时效性和地域性。

    55 引用 • 85 回帖
  • 面试

    面试造航母,上班拧螺丝。多面试,少加班。

    325 引用 • 1395 回帖
  • 微服务

    微服务架构是一种架构模式,它提倡将单一应用划分成一组小的服务。服务之间互相协调,互相配合,为用户提供最终价值。每个服务运行在独立的进程中。服务于服务之间才用轻量级的通信机制互相沟通。每个服务都围绕着具体业务构建,能够被独立的部署。

    96 引用 • 155 回帖
  • 设计模式

    设计模式(Design pattern)代表了最佳的实践,通常被有经验的面向对象的软件开发人员所采用。设计模式是软件开发人员在软件开发过程中面临的一般问题的解决方案。这些解决方案是众多软件开发人员经过相当长的一段时间的试验和错误总结出来的。

    200 引用 • 120 回帖
  • ActiveMQ

    ActiveMQ 是 Apache 旗下的一款开源消息总线系统,它完整实现了 JMS 规范,是一个企业级的消息中间件。

    19 引用 • 13 回帖 • 668 关注
  • WebComponents

    Web Components 是 W3C 定义的标准,它给了前端开发者扩展浏览器标签的能力,可以方便地定制可复用组件,更好的进行模块化开发,解放了前端开发者的生产力。

    1 引用 • 3 关注
  • PWA

    PWA(Progressive Web App)是 Google 在 2015 年提出、2016 年 6 月开始推广的项目。它结合了一系列现代 Web 技术,在网页应用中实现和原生应用相近的用户体验。

    14 引用 • 69 回帖 • 159 关注
  • DevOps

    DevOps(Development 和 Operations 的组合词)是一组过程、方法与系统的统称,用于促进开发(应用程序/软件工程)、技术运营和质量保障(QA)部门之间的沟通、协作与整合。

    51 引用 • 25 回帖
  • iOS

    iOS 是由苹果公司开发的移动操作系统,最早于 2007 年 1 月 9 日的 Macworld 大会上公布这个系统,最初是设计给 iPhone 使用的,后来陆续套用到 iPod touch、iPad 以及 Apple TV 等产品上。iOS 与苹果的 Mac OS X 操作系统一样,属于类 Unix 的商业操作系统。

    85 引用 • 139 回帖
  • 开源

    Open Source, Open Mind, Open Sight, Open Future!

    407 引用 • 3578 回帖
  • WordPress

    WordPress 是一个使用 PHP 语言开发的博客平台,用户可以在支持 PHP 和 MySQL 数据库的服务器上架设自己的博客。也可以把 WordPress 当作一个内容管理系统(CMS)来使用。WordPress 是一个免费的开源项目,在 GNU 通用公共许可证(GPLv2)下授权发布。

    66 引用 • 114 回帖 • 223 关注
  • 机器学习

    机器学习(Machine Learning)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。

    83 引用 • 37 回帖
  • PWL

    组织简介

    用爱发电 (Programming With Love) 是一个以开源精神为核心的民间开源爱好者技术组织,“用爱发电”象征开源与贡献精神,加入组织,代表你将遵守组织的“个人开源爱好者”的各项条款。申请加入:用爱发电组织邀请帖
    用爱发电组织官网:https://programmingwithlove.stackoverflow.wiki/

    用爱发电组织的核心驱动力:

    • 遵守开源守则,体现开源&贡献精神:以分享为目的,拒绝非法牟利。
    • 自我保护:使用适当的 License 保护自己的原创作品。
    • 尊重他人:不以各种理由、各种漏洞进行未经允许的抄袭、散播、洩露;以礼相待,尊重所有对社区做出贡献的开发者;通过他人的分享习得知识,要留下足迹,表示感谢。
    • 热爱编程、热爱学习:加入组织,热爱编程是首当其要的。我们欢迎热爱讨论、分享、提问的朋友,也同样欢迎默默成就的朋友。
    • 倾听:正确并恳切对待、处理问题与建议,及时修复开源项目的 Bug ,及时与反馈者沟通。不抬杠、不无视、不辱骂。
    • 平视:不诋毁、轻视、嘲讽其他开发者,主动提出建议、施以帮助,以和谐为本。只要他人肯努力,你也可能会被昔日小看的人所超越,所以请保持谦虚。
    • 乐观且活跃:你的努力决定了你的高度。不要放弃,多年后回头俯瞰,才会发现自己已经成就往日所仰望的水平。积极地将项目开源,帮助他人学习、改进,自己也会获得相应的提升、成就与成就感。
    1 引用 • 487 回帖 • 2 关注
  • HBase

    HBase 是一个分布式的、面向列的开源数据库,该技术来源于 Fay Chang 所撰写的 Google 论文 “Bigtable:一个结构化数据的分布式存储系统”。就像 Bigtable 利用了 Google 文件系统所提供的分布式数据存储一样,HBase 在 Hadoop 之上提供了类似于 Bigtable 的能力。

    17 引用 • 6 回帖 • 75 关注
  • jsDelivr

    jsDelivr 是一个开源的 CDN 服务,可为 npm 包、GitHub 仓库提供免费、快速并且可靠的全球 CDN 加速服务。

    5 引用 • 31 回帖 • 72 关注
  • Swagger

    Swagger 是一款非常流行的 API 开发工具,它遵循 OpenAPI Specification(这是一种通用的、和编程语言无关的 API 描述规范)。Swagger 贯穿整个 API 生命周期,如 API 的设计、编写文档、测试和部署。

    26 引用 • 35 回帖 • 5 关注