FastDFS(分布式文件系统)的安装与整合使用

本贴最后更新于 2999 天前,其中的信息可能已经时异事殊



1FastDFS(分布式文件系统)

C实现,支持LinuxFreeBSDUNIX系统– google FS,不是通用的文件系统,只能通过专有API访问,目前提供了CJavaPHP API 为互联网应用量身定做,解决大容量文件存储

问题,追求高性能和高扩展性– FastDFS可以看做是基于文件的key value pair存储系统,称作分布式文件存储服务更为合适



2FastDFS提供的功能

 upload:上传普通文件,包括主文件

 upload_appender:上传appender文件,后续可以对其进行append操作

 upload_slave:上传从文件

 download:下载文件

 delete:删除文件

 append:在已有文件后追加内容

 set_metadata:设置文件附加属性

 get_metadata:获取文件附加属性



3FastDFS的特点

 分组存储,灵活简洁

 对等结构,不存在单点

 文件IDFastDFS生成,作为文件访问凭证。FastDFS不需要传统的name server

 和流行的web server无缝衔接,FastDFS已提供apachenginx扩展模块

 大、中、小文件均可以很好支持,支持海量小文件存储

 支持多块磁盘,支持单盘数据恢复

 支持相同文件内容只保存一份,节省存储空间

 存储服务器上可以保存文件附加属性

  下载文件支持多线程方式,支持断点续传


4架构示意图、文件上传流程、文件下载流程

                 

文件上传流程:

客户端上传文件后存储服务器将文件ID返回给客户端,此文件ID用于以后访问该文件的索引信息。文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。


  • 组名:文件上传后所在的storage组名称,在文件上传成功后有storage服务器返回,需要客户端自行保存。
  • 虚拟磁盘路径:storage配置的虚拟路径,与磁盘选项store_path*对应。如果配置了store_path0则是M00,如果配置了store_path1则是M01,以此类推。
  • 数据两级目录:storage服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据文件。
  • 文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

文件下载流程: 

 



5图片服务器的搭建

搭建的图片服务器的架构 


下载FastDFS

trackerstorage使用相同的安装包,下载地址:http://sourceforge.net/projects/FastDFS/ https://github.com/happyfish100/FastDFS(推荐)

本教程下载:FastDFS_v5.05.tar.gz



安装环境

CentOS6.4 32

需要gcc的编译环境

需要libevent的包。


yum -y install libevent


安装步骤

 Tracker的安装

第一步:把源码包上传到linux系统。

第二步:解压缩libfastcommonV1.0.7.tar.gz包。

第三步:进入/root/libfastcommon-1.0.7文件夹执行./make.sh./make.sh install

第四步:把/usr/lib64/libfastcommon.so文件向/usr/lib文件夹下复制一份。

第五步:把FastDFS_v5.05.tar.gz解压缩。

第六步:进入/root/FastDFS目录执行:


./make.sh、./make.sh install


第七步:配置trackerServer

  1. /root/FastDFS/conf目录下的所有的文件复制到/etc/fdfs目录下。
  2. 编辑/etc/fdfs/tracker.conf


第八步:启动tracker服务


/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart


Storage服务的安装

如果storagetracker不在同一台服务上需要重复执行3.5.4.1Tracker的安装的第一步到第六步。

配置Storage服务:

需要修改/etc/fdfs/storage.conf文件。

vim /etc/profile/storage.conf

 

启动服务:

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf

测试上传服务

可以使用fdfs_test测试上传。

第一步:修改客户端的配置文件。

vim /etc/fdfs/client.conf

 

第二步:上传文件。


/usr/bin/fdfs_test client.conf upload anti-steal.jpg


访问图片

使用FastDFSNginx插件和Nginx配合,实现图片的访问。Nginx需要安装到storage服务所在的服务器。

需要使用fastdfs-nginx-module_v1.16.tar.gz

安装步骤:

第一步:把插件包解压缩。fastdfs-nginx-module_v1.16.tar.gz

第二步:编辑/root/fastdfs-nginx-module/src/config文件。

删除其中的local字样。



第三步:把/root/fastdfs-nginx-module/src/mod_fastdfs.conf文件复制到/etc/fdfs目录下。

第四步:把/usr/lib64/libfdfsclient.so文件复制到/usr/lib目录下

第五步:编译Nginx

Nginx进行config

./configure \
--prefix=/usr/local/nginx \
--pid-path=/var/run/nginx/nginx.pid \
--lock-path=/var/lock/nginx.lock \
--error-log-path=/var/log/nginx/error.log \
--http-log-path=/var/log/nginx/access.log \
--with-http_gzip_static_module \
--http-client-body-temp-path=/var/temp/nginx/client \
--http-proxy-temp-path=/var/temp/nginx/proxy \
--http-fastcgi-temp-path=/var/temp/nginx/fastcgi \
--http-uwsgi-temp-path=/var/temp/nginx/uwsgi \
--http-scgi-temp-path=/var/temp/nginx/scgi \
--add-module=/usr/java/fastdfs/fastdfs-nginx-module/src


配置Nginx



启动:

tracker

/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

启动的日志显示先停止5619进程(实际环境不是5619)再启动,如下图:

注意:如果没有显示上图要注意是否正常停止原有进程。

  • 设置开机自动启动。

vim /etc/rc.d/rc.local

将运行命令行添加进文件:

/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart 

storage

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart

启动的日志显示先停止8931进程(实际环境不是8931)再启动,如下图:

注意:如果没有显示上图要注意是否正常停止原有进程。

  • 设置开机自动启动
vim /etc/rc.d/rc.local

将运行命令行添加进文件:

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart


6配置文件内容和启动Nginx

server{

  listen       80;

        server_name  localhost;

        location /group1/M00/ {

        fastdfs-nginx-module;

        }

}

server{

  listen       80;

        server_name  localhost;

        location / {

            proxy_pass http://server_ls;

            index  index.html index.htm;

        }

    } 

upstream server_lb{

    server 127.0.0.1:8080;

}

 

server{

        listen       81;

        server_name  localhost;   

        location /image/ {

            root   /usr/images;

}


server {

        listen       80;

        server_name   http://server_lb;

        location / {

            proxy_pass http://server_lb;

            index  index.html index.htm;

        }

}



7使用java客户端上传图片

@Service

publicclass PictureService {

     @Value("${IMAGE_SERVER_URL}")

     private String ImageServerURL;

     publicMap uploadFile(MultipartFile uploadFile) {

         //在此实现图片上传

         try {

              FastDFSClient client = new FastDFSClient("classpath:resource/client.conf");

              //取图片的原始名称

              String filename = uploadFile.getOriginalFilename();

              //取扩展名

              String ext = filename.substring(filename.lastIndexOf(".") + 1);

              String url = client.uploadFile(uploadFile.getBytes(), ext);

              //拼接url

              url = ImageServerURL + url;

              //返回Map数据

              Mapresult = new HashMap<>();

              result.put("error", 0);

              result.put("url"url);

              returnresult;

         } catch (Exception e) {

              e.printStackTrace();

              //返回Map数据

              Mapresult = new HashMap<>();

              result.put("error", 1);

              result.put("message""上传失败");

             

              returnresult;

         }

     }

}

安装FastDFSjava客户端

 

把工程导入到workspace中,然后maven install


 


linux 安装FastDFS实现分布式文件服务器

上传图片

开发步骤:

第一步:在pom文件中添加jar包的依赖。

第二步:创建一个测试类。

第三步:创建一个上传文件使用的配置文件。需要知道trackerServer的位置。

第四步:加载配置文件。

第五步:创建一个TrackerClient对象,直接new

第六步:通过TrackerClient对象获得一个TrackerServer对象。

第七步:创建一个StorageServer的引用。Null

第八步:创建StorageClient对象

第九步:使用StorageClient对象上传文件

配置文件的内容:

tracker_server=192.168.25.133:22122

代码实现:

publicclass TestFastDFS {

     @Test

     publicvoid testUpload() throws Exception {

         // 第一步:在pom文件中添加jar包的依赖。

         // 第二步:创建一个测试类。

         // 第三步:创建一个上传文件使用的配置文件。需要知道trackerServer的位置。

         // 第四步:加载配置文件。

         ClientGlobal.init("D:/workspaces/web/src/main/resources/resource/client.conf");

         // 第五步:创建一个TrackerClient对象,直接new

         TrackerClient trackerClient = new TrackerClient();

         // 第六步:通过TrackerClient对象获得一个TrackerServer对象。

         TrackerServer trackerServer = trackerClient.getConnection();

         // 第七步:创建一个StorageServer的引用。Null

         StorageServer storageServer = null;

         // 第八步:创建StorageClient对象

         StorageClient storageClient = new StorageClient(trackerServerstorageServer);

         // 第九步:使用StorageClient对象上传文件

         String[] strings = storageClient.upload_appender_file("D:/Documents/Pictures/images/2f2eb938943d.jpg""jpg"null);

         for (String string : strings) {

              System.out.println(string);

         }

         trackerServer.close();

     }

}

 

1.1   使用封装的工具类上传

FastDFSClient 

package com.liwei.controller.utils;

import org.csource.common.NameValuePair;
import org.csource.fastdfs.ClientGlobal;
import org.csource.fastdfs.StorageClient1;
import org.csource.fastdfs.StorageServer;
import org.csource.fastdfs.TrackerClient;
import org.csource.fastdfs.TrackerServer;

public class FastDFSClient {

    private TrackerClient trackerClient = null;
    private TrackerServer trackerServer = null;
    private StorageServer storageServer = null;
    private StorageClient1 storageClient = null;

    public FastDFSClient(String conf) throws Exception {
        if (conf.contains("classpath:")) {
            conf = conf.replace("classpath:", this.getClass().getResource("/").getPath());
        }        
        ClientGlobal.init(conf);
        trackerClient = new TrackerClient();
        trackerServer = trackerClient.getConnection();
        storageServer = null;
        storageClient = new StorageClient1(trackerServer, storageServer);
    }

    /**
     * 上传文件方法
     * <p>Title: uploadFile</p>
     * <p>Description: </p>
     * @param fileName 文件全路径
     * @param extName 文件扩展名,不包含(.)
     * @param metas 文件扩展信息
     * @return
     * @throws Exception
     */
    public String uploadFile(String fileName, String extName, NameValuePair[] metas) throws Exception {
        String result = storageClient.upload_file1(fileName, extName, metas);
        return result;
    }

    public String uploadFile(String fileName) throws Exception {
        return uploadFile(fileName, null, null);
    }

    public String uploadFile(String fileName, String extName) throws Exception {
        return uploadFile(fileName, extName, null);
    }

    /**
     * 上传文件方法
     * <p>Title: uploadFile</p>
     * <p>Description: </p>
     * @param fileContent 文件的内容,字节数组
     * @param extName 文件扩展名
     * @param metas 文件扩展信息
     * @return
     * @throws Exception
     */
    public String uploadFile(byte[] fileContent, String extName, NameValuePair[] metas) throws Exception {

        String result = storageClient.upload_file1(fileContent, extName, metas);
        return result;
    }

    public String uploadFile(byte[] fileContent) throws Exception {
        return uploadFile(fileContent, null, null);
    }

    public String uploadFile(byte[] fileContent, String extName) throws Exception {
        return uploadFile(fileContent, extName, null);
    }
}

@Test

     publicvoid testUtilUpload() throws Exception {

         FastDFSClient client = new FastDFSClient("D:/workspaces/web/src/main/resources/resource/client.conf");

         String string = client.uploadFile("D:/Documents/Pictures/images/2010051018445059.jpg", "jpg", null);

         System.out.println(string);

     }

  • Java

    Java 是一种可以撰写跨平台应用软件的面向对象的程序设计语言,是由 Sun Microsystems 公司于 1995 年 5 月推出的。Java 技术具有卓越的通用性、高效性、平台移植性和安全性。

    3187 引用 • 8213 回帖
  • 分布式
    80 引用 • 149 回帖 • 4 关注
  • 服务器

    服务器,也称伺服器,是提供计算服务的设备。由于服务器需要响应服务请求,并进行处理,因此一般来说服务器应具备承担服务并且保障服务的能力。

    125 引用 • 588 回帖

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...

推荐标签 标签

  • 资讯

    资讯是用户因为及时地获得它并利用它而能够在相对短的时间内给自己带来价值的信息,资讯有时效性和地域性。

    55 引用 • 85 回帖
  • Solo

    Solo 是一款小而美的开源博客系统,专为程序员设计。Solo 有着非常活跃的社区,可将文章作为帖子推送到社区,来自社区的回帖将作为博客评论进行联动(具体细节请浏览 B3log 构思 - 分布式社区网络)。

    这是一种全新的网络社区体验,让热爱记录和分享的你不再感到孤单!

    1434 引用 • 10054 回帖 • 490 关注
  • Lute

    Lute 是一款结构化的 Markdown 引擎,支持 Go 和 JavaScript。

    25 引用 • 191 回帖 • 16 关注
  • 钉钉

    钉钉,专为中国企业打造的免费沟通协同多端平台, 阿里巴巴出品。

    15 引用 • 67 回帖 • 339 关注
  • Bug

    Bug 本意是指臭虫、缺陷、损坏、犯贫、窃听器、小虫等。现在人们把在程序中一些缺陷或问题统称为 bug(漏洞)。

    75 引用 • 1737 回帖 • 5 关注
  • IBM

    IBM(国际商业机器公司)或万国商业机器公司,简称 IBM(International Business Machines Corporation),总公司在纽约州阿蒙克市。1911 年托马斯·沃森创立于美国,是全球最大的信息技术和业务解决方案公司,拥有全球雇员 30 多万人,业务遍及 160 多个国家和地区。

    17 引用 • 53 回帖 • 136 关注
  • 微服务

    微服务架构是一种架构模式,它提倡将单一应用划分成一组小的服务。服务之间互相协调,互相配合,为用户提供最终价值。每个服务运行在独立的进程中。服务于服务之间才用轻量级的通信机制互相沟通。每个服务都围绕着具体业务构建,能够被独立的部署。

    96 引用 • 155 回帖 • 1 关注
  • 招聘

    哪里都缺人,哪里都不缺人。

    190 引用 • 1057 回帖
  • iOS

    iOS 是由苹果公司开发的移动操作系统,最早于 2007 年 1 月 9 日的 Macworld 大会上公布这个系统,最初是设计给 iPhone 使用的,后来陆续套用到 iPod touch、iPad 以及 Apple TV 等产品上。iOS 与苹果的 Mac OS X 操作系统一样,属于类 Unix 的商业操作系统。

    85 引用 • 139 回帖 • 1 关注
  • 博客

    记录并分享人生的经历。

    273 引用 • 2388 回帖
  • 安装

    你若安好,便是晴天。

    132 引用 • 1184 回帖
  • FlowUs

    FlowUs.息流 个人及团队的新一代生产力工具。

    让复杂的信息管理更轻松、自由、充满创意。

    1 引用 • 1 关注
  • Eclipse

    Eclipse 是一个开放源代码的、基于 Java 的可扩展开发平台。就其本身而言,它只是一个框架和一组服务,用于通过插件组件构建开发环境。

    75 引用 • 258 回帖 • 617 关注
  • 互联网

    互联网(Internet),又称网际网络,或音译因特网、英特网。互联网始于 1969 年美国的阿帕网,是网络与网络之间所串连成的庞大网络,这些网络以一组通用的协议相连,形成逻辑上的单一巨大国际网络。

    98 引用 • 344 回帖
  • 开源中国

    开源中国是目前中国最大的开源技术社区。传播开源的理念,推广开源项目,为 IT 开发者提供了一个发现、使用、并交流开源技术的平台。目前开源中国社区已收录超过两万款开源软件。

    7 引用 • 86 回帖
  • 创业

    你比 99% 的人都优秀么?

    84 引用 • 1399 回帖
  • SVN

    SVN 是 Subversion 的简称,是一个开放源代码的版本控制系统,相较于 RCS、CVS,它采用了分支管理系统,它的设计目标就是取代 CVS。

    29 引用 • 98 回帖 • 680 关注
  • Latke

    Latke 是一款以 JSON 为主的 Java Web 框架。

    71 引用 • 535 回帖 • 787 关注
  • 心情

    心是产生任何想法的源泉,心本体会陷入到对自己本体不能理解的状态中,因为心能产生任何想法,不能分出对错,不能分出自己。

    59 引用 • 369 回帖
  • 新人

    让我们欢迎这对新人。哦,不好意思说错了,让我们欢迎这位新人!
    新手上路,请谨慎驾驶!

    52 引用 • 228 回帖
  • IPFS

    IPFS(InterPlanetary File System,星际文件系统)是永久的、去中心化保存和共享文件的方法,这是一种内容可寻址、版本化、点对点超媒体的分布式协议。请浏览 IPFS 入门笔记了解更多细节。

    21 引用 • 245 回帖 • 241 关注
  • jQuery

    jQuery 是一套跨浏览器的 JavaScript 库,强化 HTML 与 JavaScript 之间的操作。由 John Resig 在 2006 年 1 月的 BarCamp NYC 上释出第一个版本。全球约有 28% 的网站使用 jQuery,是非常受欢迎的 JavaScript 库。

    63 引用 • 134 回帖 • 724 关注
  • wolai

    我来 wolai:不仅仅是未来的云端笔记!

    2 引用 • 14 回帖
  • TGIF

    Thank God It's Friday! 感谢老天,总算到星期五啦!

    287 引用 • 4484 回帖 • 669 关注
  • SEO

    发布对别人有帮助的原创内容是最好的 SEO 方式。

    35 引用 • 200 回帖 • 22 关注
  • 国际化

    i18n(其来源是英文单词 internationalization 的首末字符 i 和 n,18 为中间的字符数)是“国际化”的简称。对程序来说,国际化是指在不修改代码的情况下,能根据不同语言及地区显示相应的界面。

    8 引用 • 26 回帖
  • Dubbo

    Dubbo 是一个分布式服务框架,致力于提供高性能和透明化的 RPC 远程服务调用方案,是 [阿里巴巴] SOA 服务化治理方案的核心框架,每天为 2,000+ 个服务提供 3,000,000,000+ 次访问量支持,并被广泛应用于阿里巴巴集团的各成员站点。

    60 引用 • 82 回帖 • 595 关注