CentOS7 搭建 FastDFS V5.11 分布式文件系统及 Java 整合详细过程 (一)

【转载】https://blog.csdn.net/m0_37797991/article/details/73381648

链接：
第二篇：FastDFS 搭建
第三篇：FastDFS 整合 nginx
第四篇：整合 Java Spring MVC 上传

1. 绪论

最近要用到 fastDFS，所以自己研究了一下，在搭建 FastDFS 的过程中遇到过很多的问题，为了能帮忙到以后搭建 FastDFS 的同学，少走弯路，与大家分享一下。FastDFS 的作者淘宝资深架构余庆，这个优秀的轻量及的分布式文件系统的开源没多久，立马就火了。由于篇幅较大，本博文共四篇，第一篇主要介绍 FastDFS，下载相关软件包，为搭建做好准备。第二篇会讲到在 CentOS 下搭建 FastDFS 的详细过程。第三篇，会讲到整合 nginx 详细内容。第四篇主要讲 FastDFS 在怎么用 fastdfs-client-java 连接，并结合实例。

2. 应用场景

FastDFS 是为互联网应用量身定做的一套分布式文件存储系统，非常适合用来存储用户图片、视频、文档等文件。对于互联网应用，和其他分布式文件系统相比，优势非常明显。其中有好几家是做网盘的公司。其中存储量最大的一家，集群中存储 group 数有 400 个，存储服务器超过 800 台，存储容量达到 6PB，文件数超过 1 亿，Group 持续增长中。
以下是使用 FastDFS 的用户列表：
UC （http://www.uc.cn/，存储容量超过 10TB）
支付宝（http://www.alipay.com/）
京东商城（http://www.360buy.com/）
淘淘搜（http://www.taotaosou.com/）
飞信（http://feixin.1008.cn/）
赶集网（http://www.ganji.com/）
淘米网（http://www.61.com/）
迅雷（http://www.xunlei.com/）
蚂蜂窝（http://www.mafengwo.cn/）
丫丫网（http://www.iyaya.com/）
虹网（http://3g.ahong.com）
5173（http://www.5173.com/）
华夏原创网（http://www.yuanchuang.com/）
华师京城教育云平台（http://www.hsjdy.com.cn/）
视友网（http://www.cuctv.com/）
搜道网（http://www.sodao.com/）
58 同城（http://www.58.com/）
商务联盟网（http://www.biz72.com/）
中青网（http://www.youth.cn/）
缤丽网 （http://www.binliy.com/）
飞视云视频（http://www.freeovp.com/）
梦芭莎（http://www.moonbasa.com/）
活动帮（http://www.eventsboom.com）
51CTO（http://www.51cto.com/）
搜房网（http://www.soufun.com/）

3. 详细介绍

FastDFS 是一个开源的分布式文件系统，她对文件进行管理，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务，如相册网站、视频网站等等。

FastDFS 服务端有两个角色：跟踪器（tracker） 和 存储节点（storage）。跟踪器主要做调度工作，在访问上起负载均衡的作用。

存储节点存储文件，完成文件管理的所有功能：存储、同步和提供存取接口，FastDFS 同时对文件的 meta data 进行管理。所谓文件的 meta data 就是文件的相关属性，以键值对（key value pair）方式表示，如：width=1024，其中的 key 为 width，value 为 1024。文件 meta data 是文件属性列表，可以包含多个键值对。

FastDFS 系统结构如下图所示：
(
)

跟踪器和存储节点都可以由一台多台服务器构成。跟踪器和存储节点中的服务器均可以随时增加或下线而不会影响线上服务。其中跟踪器中的所有服务器都是对等的，可以根据服务器的压力情况随时增加或减少。

为了支持大容量，存储节点（服务器）采用了分卷（或分组）的组织方式。存储系统由一个或多个卷组成，卷与卷之间的文件是相互独立的，所有卷 的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台存储服务器组成，一个卷下的存储服务器中的文件都是相同的，卷中的多台存储服务器起 到了冗余备份和负载均衡的作用。

在卷中增加服务器时，同步已有的文件由系统自动完成，同步完成后，系统自动将新增服务器切换到线上提供服务。

当存储空间不足或即将耗尽时，可以动态添加卷。只需要增加一台或多台服务器，并将它们配置为一个新的卷，这样就扩大了存储系统的容量。
FastDFS 中的文件标识分为两个部分：卷名和文件名，者缺一不可。

3.1 上传文件交互过程：

1. client 询问 tracker 上传到的 storage，不需要附加参数；
2. tracker 返回一台可用的 storage；
3. client 直接和 storage 通讯完成文件上传。

3.2 下载文件交互过程：

1. client 询问 tracker 下载文件的 storage，参数为文件标识（卷名和文件名）；
2. tracker 返回一台可用的 storage；
3. client 直接和 storage 通讯完成文件下载。

4. FastDFS 搭建工具下载

作者的 GitHub 地址：https://github.com/happyfish100
这次搭建的所有工具，都可以在上面下载到。我搭建的是目前最新版本 Version 5.11 2017-05-26。作者还有一个 5.10 的发行版本，你如果没有下载最近的，到时候整合 nginx 的时候可能会遇到：

local/fastdfs-nginx-module/src/common.c:1245: 错误：‘FDFSHTTPParams’没有名为‘support_multi_range’的成员
make[1]: *** [objs/addon/src/ngx_http_fastdfs_module.o] 错误 1
make[1]: Leaving directory `/usr/local/nginx-1.10.1'

遇到这个错误的原因是，在 fastdfs-nginx-module 的 HISTORY 中你可以到：

整合的时候，fastdfs-nginx-module 中的 support_multi_range 在 Version 5.10 中找不到。

Version 5.11对应的fastdfs-nginx-module的Version 1.20
Version 5.10对应的fastdfs-nginx-module的Version 1.19

之所以在安装前写了这么一段话，是因为这个很重要，版本不对应会给接下来的安装带来各种问题。

4.1 下载工具：

把源码下载下来 4 个 zip 包，再去下个 nginx：

4.2 上传到 CentOS

上传文件到 liunx 系统的方法很多。我个人比较喜欢用 vsftp 上传。
感兴趣的同学可以参考我一另一篇博文：

CentOS7 搭建 vsftpd 详细教程

在 windows 上直接输入 ftp 地址，把刚刚下载好的文件拖到 ftp 上即可。

在 CentOS 上查看：

[root@localhost ~]#ll /usr/yong.cao/ftp/                                                                        
total 19320                                                                                                                          
drwxr-xr-x  10 root root      258 Jun 14 01:26 fastdfs-5.11                                         
-rw-r--r--   1 root root   421773 Jun 17 09:34 fastdfs-5.11.zip                                   
-rw-r--r--   1 root root    75491 Jun 17 09:34 fastdfs-client-java-master.zip             
-rw-r--r--   1 root root    22192 Jun 17 09:34 fastdfs-nginx-module-master.zip      
drwxr-xr-x   5 root root      135 Jun  8 21:51 libfastcommon-master                          
-rw-r--r--   1 root root   478888 Jun 17 09:34 libfastcommon-master.zip                
-rw-r--r--   1 root root   980831 Jun 17 09:34 nginx-1.12.0.tar.gz                             
-rw-r--r--.  1 root root      150 Jun  4 12:19 record.txt                                                    
-rw-r--r--.  1 root root 17699306 Jun  4 13:32 zookeeper-3.4.6.tar.gz

查看到刚刚的文件都在。
————————————————
版权声明：本文为 CSDN 博主「MrCao 杰罗尔德」的原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/m0_37797991/article/details/73381648