登录 注册

FastDFS（分布式文件系统）的安装与整合使用

本贴最后更新于 3029 天前，其中的信息可能已经时异事殊



1FastDFS（分布式文件系统）

纯C实现，支持Linux、FreeBSD等UNIX系统– 类google FS，不是通用的文件系统，只能通过专有API访问，目前提供了C、Java和PHP API– 为互联网应用量身定做，解决大容量文件存储

问题，追求高性能和高扩展性– FastDFS可以看做是基于文件的key value pair存储系统，称作分布式文件存储服务更为合适



2FastDFS提供的功能

• upload：上传普通文件，包括主文件

• upload_appender：上传appender文件，后续可以对其进行append操作

• upload_slave：上传从文件

• download：下载文件

• delete：删除文件

• append：在已有文件后追加内容

• set_metadata：设置文件附加属性

• get_metadata：获取文件附加属性



3FastDFS的特点

• 分组存储，灵活简洁

• 对等结构，不存在单点

• 文件ID由FastDFS生成，作为文件访问凭证。FastDFS不需要传统的name server

• 和流行的web server无缝衔接，FastDFS已提供apache和nginx扩展模块

• 大、中、小文件均可以很好支持，支持海量小文件存储

• 支持多块磁盘，支持单盘数据恢复

• 支持相同文件内容只保存一份，节省存储空间

• 存储服务器上可以保存文件附加属性

•  下载文件支持多线程方式，支持断点续传


4架构示意图、文件上传流程、文件下载流程

                 

文件上传流程：

客户端上传文件后存储服务器将文件ID返回给客户端，此文件ID用于以后访问该文件的索引信息。文件索引信息包括：组名，虚拟磁盘路径，数据两级目录，文件名。


  • 组名：文件上传后所在的storage组名称，在文件上传成功后有storage服务器返回，需要客户端自行保存。
  • 虚拟磁盘路径：storage配置的虚拟路径，与磁盘选项store_path*对应。如果配置了store_path0则是M00，如果配置了store_path1则是M01，以此类推。
  • 数据两级目录：storage服务器在每个虚拟磁盘路径下创建的两级目录，用于存储数据文件。
  • 文件名：与文件上传时不同。是由存储服务器根据特定信息生成，文件名包含：源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

文件下载流程： 

 



5图片服务器的搭建

搭建的图片服务器的架构 


下载FastDFS

tracker和storage使用相同的安装包，下载地址：http://sourceforge.net/projects/FastDFS/ 或https://github.com/happyfish100/FastDFS（推荐）

本教程下载：FastDFS_v5.05.tar.gz



安装环境

CentOS6.4 32位

需要gcc的编译环境

需要libevent的包。 


yum -y install libevent


安装步骤

 Tracker的安装

第一步：把源码包上传到linux系统。

第二步：解压缩libfastcommonV1.0.7.tar.gz包。

第三步：进入/root/libfastcommon-1.0.7文件夹执行./make.sh、./make.sh install

第四步：把/usr/lib64/libfastcommon.so文件向/usr/lib文件夹下复制一份。

第五步：把FastDFS_v5.05.tar.gz解压缩。

第六步：进入/root/FastDFS目录执行： 


./make.sh、./make.sh install


第七步：配置trackerServer。

  1. 把/root/FastDFS/conf目录下的所有的文件复制到/etc/fdfs目录下。
  2. 编辑/etc/fdfs/tracker.conf


第八步：启动tracker服务 


/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart


Storage服务的安装

如果storage和tracker不在同一台服务上需要重复执行3.5.4.1Tracker的安装的第一步到第六步。

配置Storage服务：

需要修改/etc/fdfs/storage.conf文件。 

vim /etc/profile/storage.conf

 

启动服务： 

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf

测试上传服务

可以使用fdfs_test测试上传。

第一步：修改客户端的配置文件。 

vim /etc/fdfs/client.conf

 

第二步：上传文件。 


/usr/bin/fdfs_test client.conf upload anti-steal.jpg


访问图片

使用FastDFS的Nginx插件和Nginx配合，实现图片的访问。Nginx需要安装到storage服务所在的服务器。

需要使用fastdfs-nginx-module_v1.16.tar.gz

安装步骤：

第一步：把插件包解压缩。fastdfs-nginx-module_v1.16.tar.gz

第二步：编辑/root/fastdfs-nginx-module/src/config文件。

删除其中的local字样。



第三步：把/root/fastdfs-nginx-module/src/mod_fastdfs.conf文件复制到/etc/fdfs目录下。

第四步：把/usr/lib64/libfdfsclient.so文件复制到/usr/lib目录下

第五步：编译Nginx

对Nginx进行config： 

./configure \
--prefix=/usr/local/nginx \
--pid-path=/var/run/nginx/nginx.pid \
--lock-path=/var/lock/nginx.lock \
--error-log-path=/var/log/nginx/error.log \
--http-log-path=/var/log/nginx/access.log \
--with-http_gzip_static_module \
--http-client-body-temp-path=/var/temp/nginx/client \
--http-proxy-temp-path=/var/temp/nginx/proxy \
--http-fastcgi-temp-path=/var/temp/nginx/fastcgi \
--http-uwsgi-temp-path=/var/temp/nginx/uwsgi \
--http-scgi-temp-path=/var/temp/nginx/scgi \
--add-module=/usr/java/fastdfs/fastdfs-nginx-module/src


配置Nginx



启动：

tracker 

/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

启动的日志显示先停止5619进程（实际环境不是5619）再启动，如下图：

注意：如果没有显示上图要注意是否正常停止原有进程。

  • 设置开机自动启动。 

vim /etc/rc.d/rc.local

将运行命令行添加进文件： 

/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

storage 

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart

启动的日志显示先停止8931进程（实际环境不是8931）再启动，如下图：

注意：如果没有显示上图要注意是否正常停止原有进程。

  • 设置开机自动启动 
vim /etc/rc.d/rc.local

将运行命令行添加进文件： 

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart


6配置文件内容和启动Nginx

server{

  listen       80;

        server_name  localhost;

        location /group1/M00/ {

        fastdfs-nginx-module;

        }

}

server{

  listen       80;

        server_name  localhost;

        location / {

            proxy_pass http://server_ls;

            index  index.html index.htm;

        }

    } 

upstream server_lb{

    server 127.0.0.1:8080;

}

 

server{

        listen       81;

        server_name  localhost;   

        location /image/ {

            root   /usr/images;

}


server {

        listen       80;

        server_name   http://server_lb;

        location / {

            proxy_pass http://server_lb;

            index  index.html index.htm;

        }

}



7使用java客户端上传图片

@Service

publicclass PictureService {

     @Value("${IMAGE_SERVER_URL}")

     private String ImageServerURL;

     publicMap uploadFile(MultipartFile uploadFile) {

         //在此实现图片上传

         try {

              FastDFSClient client = new FastDFSClient("classpath:resource/client.conf");

              //取图片的原始名称

              String filename = uploadFile.getOriginalFilename();

              //取扩展名

              String ext = filename.substring(filename.lastIndexOf(".") + 1);

              String url = client.uploadFile(uploadFile.getBytes(), ext);

              //拼接url

              url = ImageServerURL + url;

              //返回Map数据

              Mapresult = new HashMap<>();

              result.put("error", 0);

              result.put("url", url);

              returnresult;

         } catch (Exception e) {

              e.printStackTrace();

              //返回Map数据

              Mapresult = new HashMap<>();

              result.put("error", 1);

              result.put("message", "上传失败");

             

              returnresult;

         }

     }

}

安装FastDFSjava客户端

 

把工程导入到workspace中，然后maven install


 


linux 安装FastDFS实现分布式文件服务器

上传图片

开发步骤：

第一步：在pom文件中添加jar包的依赖。

第二步：创建一个测试类。

第三步：创建一个上传文件使用的配置文件。需要知道trackerServer的位置。

第四步：加载配置文件。

第五步：创建一个TrackerClient对象，直接new。

第六步：通过TrackerClient对象获得一个TrackerServer对象。

第七步：创建一个StorageServer的引用。Null

第八步：创建StorageClient对象

第九步：使用StorageClient对象上传文件

配置文件的内容： 

tracker_server=192.168.25.133:22122

代码实现：

publicclass TestFastDFS {

     @Test

     publicvoid testUpload() throws Exception {

         // 第一步：在pom文件中添加jar包的依赖。

         // 第二步：创建一个测试类。

         // 第三步：创建一个上传文件使用的配置文件。需要知道trackerServer的位置。

         // 第四步：加载配置文件。

         ClientGlobal.init("D:/workspaces/web/src/main/resources/resource/client.conf");

         // 第五步：创建一个TrackerClient对象，直接new。

         TrackerClient trackerClient = new TrackerClient();

         // 第六步：通过TrackerClient对象获得一个TrackerServer对象。

         TrackerServer trackerServer = trackerClient.getConnection();

         // 第七步：创建一个StorageServer的引用。Null

         StorageServer storageServer = null;

         // 第八步：创建StorageClient对象

         StorageClient storageClient = new StorageClient(trackerServer, storageServer);

         // 第九步：使用StorageClient对象上传文件

         String[] strings = storageClient.upload_appender_file("D:/Documents/Pictures/images/2f2eb938943d.jpg", "jpg", null);

         for (String string : strings) {

              System.out.println(string);

         }

         trackerServer.close();

     }

}

 

1.1   使用封装的工具类上传

FastDFSClient 

package com.liwei.controller.utils;

import org.csource.common.NameValuePair;
import org.csource.fastdfs.ClientGlobal;
import org.csource.fastdfs.StorageClient1;
import org.csource.fastdfs.StorageServer;
import org.csource.fastdfs.TrackerClient;
import org.csource.fastdfs.TrackerServer;

public class FastDFSClient {

    private TrackerClient trackerClient = null;
    private TrackerServer trackerServer = null;
    private StorageServer storageServer = null;
    private StorageClient1 storageClient = null;

    public FastDFSClient(String conf) throws Exception {
        if (conf.contains("classpath:")) {
            conf = conf.replace("classpath:", this.getClass().getResource("/").getPath());
        }        
        ClientGlobal.init(conf);
        trackerClient = new TrackerClient();
        trackerServer = trackerClient.getConnection();
        storageServer = null;
        storageClient = new StorageClient1(trackerServer, storageServer);
    }

    /**
     * 上传文件方法
     * <p>Title: uploadFile</p>
     * <p>Description: </p>
     * @param fileName 文件全路径
     * @param extName 文件扩展名，不包含（.）
     * @param metas 文件扩展信息
     * @return
     * @throws Exception
     */
    public String uploadFile(String fileName, String extName, NameValuePair[] metas) throws Exception {
        String result = storageClient.upload_file1(fileName, extName, metas);
        return result;
    }

    public String uploadFile(String fileName) throws Exception {
        return uploadFile(fileName, null, null);
    }

    public String uploadFile(String fileName, String extName) throws Exception {
        return uploadFile(fileName, extName, null);
    }

    /**
     * 上传文件方法
     * <p>Title: uploadFile</p>
     * <p>Description: </p>
     * @param fileContent 文件的内容，字节数组
     * @param extName 文件扩展名
     * @param metas 文件扩展信息
     * @return
     * @throws Exception
     */
    public String uploadFile(byte[] fileContent, String extName, NameValuePair[] metas) throws Exception {

        String result = storageClient.upload_file1(fileContent, extName, metas);
        return result;
    }

    public String uploadFile(byte[] fileContent) throws Exception {
        return uploadFile(fileContent, null, null);
    }

    public String uploadFile(byte[] fileContent, String extName) throws Exception {
        return uploadFile(fileContent, extName, null);
    }
}

@Test

     publicvoid testUtilUpload() throws Exception {

         FastDFSClient client = new FastDFSClient("D:/workspaces/web/src/main/resources/resource/client.conf");

         String string = client.uploadFile("D:/Documents/Pictures/images/2010051018445059.jpg", "jpg", null);

         System.out.println(string);

     }

  • Java

    Java 是一种可以撰写跨平台应用软件的面向对象的程序设计语言，是由 Sun Microsystems 公司于 1995 年 5 月推出的。Java 技术具有卓越的通用性、高效性、平台移植性和安全性。

    3190 引用 • 8214 回帖 • 1 关注
  • 分布式
    80 引用 • 149 回帖 • 4 关注
  • 服务器

    服务器，也称伺服器，是提供计算服务的设备。由于服务器需要响应服务请求，并进行处理，因此一般来说服务器应具备承担服务并且保障服务的能力。

    125 引用 • 588 回帖
北京 位置
3 回帖
2
2.4k 16 120 572 219 142 3 130 1.2k

相关帖子

3 回帖
FastDFS（分布式文件系统）的安装与整合使用

欢迎来到这里！

我们正在构建一个小众社区，大家在这里相互信任，以平等 • 自由 • 奔放的价值观进行分享交流。最终，希望大家能够找到与自己志同道合的伙伴，共同成长。

注册 关于
请输入回帖内容 ...
wstv
北京
回帖
3
 帖子
6
 积分
2037

近期热议

推荐标签 标签

  • Windows

    Microsoft Windows 是美国微软公司研发的一套操作系统，它问世于 1985 年，起初仅仅是 Microsoft-DOS 模拟环境，后续的系统版本由于微软不断的更新升级，不但易用，也慢慢的成为家家户户人们最喜爱的操作系统。

    223 引用 • 474 回帖
  • Wide

    Wide 是一款基于 Web 的 Go 语言 IDE。通过浏览器就可以进行 Go 开发，并有代码自动完成、查看表达式、编译反馈、Lint、实时结果输出等功能。

    欢迎访问我们运维的实例： https://wide.b3log.org

    30 引用 • 218 回帖 • 635 关注
  • Elasticsearch

    Elasticsearch 是一个基于 Lucene 的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎，基于 RESTful 接口。Elasticsearch 是用 Java 开发的，并作为 Apache 许可条款下的开放源码发布，是当前流行的企业级搜索引擎。设计用于云计算中，能够达到实时搜索，稳定，可靠，快速，安装使用方便。

    117 引用 • 99 回帖 • 209 关注
  • Pipe

    Pipe 是一款小而美的开源博客平台。Pipe 有着非常活跃的社区，可将文章作为帖子推送到社区，来自社区的回帖将作为博客评论进行联动（具体细节请浏览 B3log 构思 - 分布式社区网络）。

    这是一种全新的网络社区体验，让热爱记录和分享的你不再感到孤单！

    132 引用 • 1114 回帖 • 125 关注
  • 招聘

    哪里都缺人，哪里都不缺人。

    190 引用 • 1057 回帖
  • 互联网

    互联网（Internet），又称网际网络，或音译因特网、英特网。互联网始于 1969 年美国的阿帕网，是网络与网络之间所串连成的庞大网络，这些网络以一组通用的协议相连，形成逻辑上的单一巨大国际网络。

    98 引用 • 344 回帖
  • Laravel

    Laravel 是一套简洁、优雅的 PHP Web 开发框架。它采用 MVC 设计，是一款崇尚开发效率的全栈框架。

    20 引用 • 23 回帖 • 726 关注
  • 微服务

    微服务架构是一种架构模式，它提倡将单一应用划分成一组小的服务。服务之间互相协调，互相配合，为用户提供最终价值。每个服务运行在独立的进程中。服务于服务之间才用轻量级的通信机制互相沟通。每个服务都围绕着具体业务构建，能够被独立的部署。

    96 引用 • 155 回帖
  • TGIF

    Thank God It's Friday! 感谢老天，总算到星期五啦！

    288 引用 • 4485 回帖 • 663 关注
  • Typecho

    Typecho 是一款博客程序，它在 GPLv2 许可证下发行，基于 PHP 构建，可以运行在各种平台上，支持多种数据库（MySQL、PostgreSQL、SQLite）。

    12 引用 • 65 回帖 • 446 关注
  • 反馈

    Communication channel for makers and users.

    123 引用 • 913 回帖 • 250 关注
  • frp

    frp 是一个可用于内网穿透的高性能的反向代理应用，支持 TCP、UDP、 HTTP 和 HTTPS 协议。

    20 引用 • 7 回帖 • 2 关注
  • 强迫症

    强迫症（OCD）属于焦虑障碍的一种类型，是一组以强迫思维和强迫行为为主要临床表现的神经精神疾病，其特点为有意识的强迫和反强迫并存，一些毫无意义、甚至违背自己意愿的想法或冲动反反复复侵入患者的日常生活。

    15 引用 • 161 回帖 • 2 关注
  • 新人

    让我们欢迎这对新人。哦，不好意思说错了，让我们欢迎这位新人！
    新手上路，请谨慎驾驶！

    52 引用 • 228 回帖
  • 职场

    找到自己的位置，萌新烦恼少。

    127 引用 • 1706 回帖
  • OkHttp

    OkHttp 是一款 HTTP & HTTP/2 客户端库，专为 Android 和 Java 应用打造。

    16 引用 • 6 回帖 • 76 关注
  • Spark

    Spark 是 UC Berkeley AMP lab 所开源的类 Hadoop MapReduce 的通用并行框架。Spark 拥有 Hadoop MapReduce 所具有的优点；但不同于 MapReduce 的是 Job 中间输出结果可以保存在内存中，从而不再需要读写 HDFS，因此 Spark 能更好地适用于数据挖掘与机器学习等需要迭代的 MapReduce 的算法。

    74 引用 • 46 回帖 • 559 关注
  • 服务

    提供一个服务绝不仅仅是简单的把硬件和软件累加在一起，它包括了服务的可靠性、服务的标准化、以及对服务的监控、维护、技术支持等。

    41 引用 • 24 回帖
  • 代码片段

    代码片段分为 CSS 与 JS 两种代码，添加在 [设置 - 外观 - 代码片段] 中，这些代码会在思源笔记加载时自动执行，用于改善笔记的样式或功能。

    用户在该标签下分享代码片段时需在帖子标题前添加 [css] 或 [js] 用于区分代码片段类型。

    90 引用 • 561 回帖 • 1 关注
  • 小薇

    小薇是一个用 Java 写的 QQ 聊天机器人 Web 服务，可以用于社群互动。

    由于 Smart QQ 从 2019 年 1 月 1 日起停止服务，所以该项目也已经停止维护了！

    34 引用 • 467 回帖 • 748 关注
  • Solidity

    Solidity 是一种智能合约高级语言，运行在 [以太坊] 虚拟机（EVM）之上。它的语法接近于 JavaScript，是一种面向对象的语言。

    3 引用 • 18 回帖 • 401 关注
  • App

    App（应用程序，Application 的缩写）一般指手机软件。

    91 引用 • 384 回帖 • 2 关注
  • 又拍云

    又拍云是国内领先的 CDN 服务提供商,国家工信部认证通过的“可信云”，乌云众测平台认证的“安全云”，为移动时代的创业者提供新一代的 CDN 加速服务。

    21 引用 • 37 回帖 • 548 关注
  • HBase

    HBase 是一个分布式的、面向列的开源数据库，该技术来源于 Fay Chang 所撰写的 Google 论文 “Bigtable：一个结构化数据的分布式存储系统”。就像 Bigtable 利用了 Google 文件系统所提供的分布式数据存储一样，HBase 在 Hadoop 之上提供了类似于 Bigtable 的能力。

    17 引用 • 6 回帖 • 75 关注
  • OpenStack

    OpenStack 是一个云操作系统，通过数据中心可控制大型的计算、存储、网络等资源池。所有的管理通过前端界面管理员就可以完成，同样也可以通过 Web 接口让最终用户部署资源。

    10 引用 • 1 关注
  • VirtualBox

    VirtualBox 是一款开源虚拟机软件，最早由德国 Innotek 公司开发，由 Sun Microsystems 公司出品的软件，使用 Qt 编写，在 Sun 被 Oracle 收购后正式更名成 Oracle VM VirtualBox。

    10 引用 • 2 回帖
  • PWA

    PWA（Progressive Web App）是 Google 在 2015 年提出、2016 年 6 月开始推广的项目。它结合了一系列现代 Web 技术，在网页应用中实现和原生应用相近的用户体验。

    14 引用 • 69 回帖 • 159 关注

最新标签