大数据技术 FastDFS安装步骤
沉沙 2018-09-25 来源 : 阅读 957 评论 0

摘要:本篇教程探讨了大数据技术 FastDFS安装步骤,希望阅读本篇文章以后大家有所收获,帮助大家对大数据技术的理解更加深入。

本篇教程探讨了大数据技术 FastDFS安装步骤,希望阅读本篇文章以后大家有所收获,帮助大家对大数据技术的理解更加深入。

<

FastDFS是用c语言编写的一款开源的分布式文件系统,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。
一、FastDFS架构
FastDFS架构包括Tracker server和Storage server。客户端请求Tracker server进行文件上传、下载,通过Tracker server调度最终由Storage server完成文件上传和下载。

1.Tracker Server
Tracker server作用是负载均衡和调度,通过Tracker server在文件上传时可以根据一些策略找到Storage server提供文件上传服务,可以将tracker称为追踪服务器或调度服务器。
2.Storage server
Storage server作用是文件存储,客户端上传的文件最终存储在Storage服务器上,Storage server没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。可以将storage称为存储服务器。
二、FastDFS安装
FastDFS的安装比较麻烦,需要配置许多的参数,所以要有耐心。本次配置是在Ubuntu系统版本为16.04.3 LTS下进行的,并且是干净的版本,比如gcc、ssh等软件包都没有安装。
下面开始进行环境配置:
1.软件包
下面是安装FastDFS的安装包,也可以下载到:FastDFS,密码为:ideg。



软件包
版本




FastDFS
v5.05


libfastcommon
v1.0.7


fastdfs-nginx-module
v1.16


nginx
v1.12.1



2.安装libfastcommon
在编译libfastcommon之前,要先安装gcc的编译器:
sudo apt-get install build-essential
如果提示某些包安装不上,请先更新apt:
sudo apt-get update
之后再安装gcc,安装成功后就可以编译安装了:
./make.sh && sudo ./make.sh install
最后,把生成的libfastcommon库拷贝到/usr/lib目录下
sudo cp /usr/lib64/* /usr/lib/
3.编译FastDFS
解压FastDFS_v5.05.tar.gz,然后编译安装FastDFS:
tar zxf FastDFS_v5.05.tar.gz
./make.sh
sudo ./make.sh install
安装成功后将目录conf内的文件拷贝到/etc/fdfs目录下:
sudo cp conf/* /etc/fdfs/
4.安装tracker
进入/etc/fdfs目录,修改tracker.conf文件。如果不存在,就拷贝tracker.conf.sample文件为tracker.conf,然后再修改:
base_path=/home/yuqing/fastdfs >>> base_path=/home/kelvin/data/fastdfs

http.server_port=8080 >>> http.server_port=80
其中,/home/kelvin/data/fastdfs目录如果不存在,就创建一个。
之后,就启动tracker,并查看是启动成功(出现如下提示,表示启动成功):
$ fdfs_trackerd /etc/fdfs/tracker.conf start
$ netstat -unltp | grep tracker
(Not all processes could be identified, non-owned process info
 will not be shown, you would have to be root to see it all.)
tcp        0      0 0.0.0.0:22122           0.0.0.0:*               LISTEN      7281/fdfs_trackerd
5.安装storage
修改storage.conf文件。如果不存在,就拷贝storage.conf.sample文件为storage.conf,然后再修改:
base_path=/home/yuqing/fastdfs >>> base_path=/home/kelvin/data/fastdfs/storage
store_path0=/home/yuqing/fastdfs >>> store_path0=/home/kelvin/data/fastdfs/storage
tracker_server=192.168.209.121:22122 >>> tracker_server=192.168.2.231:22122
其中,如果/home/kelvin/data/fastdfs/storage不存在,就创建该目录
然后,就启动storage,并查看是否成功(出现如下提示,表示启动成功):
$ fdfs_storaged /etc/fdfs/storage.conf start
$ netstat -unltp | grep storage
(Not all processes could be identified, non-owned process info
 will not be shown, you would have to be root to see it all.)
tcp        0      0 0.0.0.0:23000           0.0.0.0:*               LISTEN      7348/fdfs_storaged
最后,查看tracker和storage是不是在通信:
$ fdfs_monitor /etc/fdfs/storage.conf
...
current trunk file id = 0

    Storage 1:
        id = 192.168.2.231
        ip_addr = 192.168.2.231  ACTIVE
...
如上提示,出现ACTIVE,表示二者均正常启动,至此就可以进行上传文件测试了。
6.安装Nginx
首先解压fastdfs-nginx-module_v1.16.tar.gz,然后把解压后的文件目录整个拷贝到/usr/local/src目录下。
然后配置nginx,加入fastdfs-nginx-module模块:
$ sudo ./configure --add-module=/usr/local/src/fastdfs-nginx-module/src/
如果出现如下错误,
error: the HTTP rewrite module requires the PCRE library
请安装libpcre3和ssh的库
$ sudo apt-get install libpcre3 libpcre3-dev
$ sudo apt-get install openssl libssl-dev
之后再执行configure配置,完成后进行安装:
sudo make
如果出现如下错误:
root/fastdfs-nginx-module/src//common.c:21:25: fatal error: fdfs_define.h: No such file or directory
 #include "fdfs_define.h"
则需要再添加如下配置:
1.把/usr/lib64/libfdfsclient.so库拷贝到/usr/lib/目录下:
$ sudo cp /usr/lib64/libfdfsclient.so /usr/lib/
2.配置/usr/local/src/fastdfs-nginx-module/src/目录下的config文件,把CORE_INCS和CORE_LIBS的所有路径都修改为/usr/include和/usr/lib:
$ sudo vi /usr/local/src/fastdfs-nginx-module/src/config
...
CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"
CORE_LIBS="$CORE_LIBS -L/usr/lib -lfastcommon -lfdfsclient"
...
之后就可以执行编译和安装了:
$ sudo make && sudo make install
完成之后,可以查看fastdfs-nginx-module是否配置成功(下面提示表示配置成功):
$ /usr/local/nginx/sbin/nginx -V
nginx version: nginx/1.12.1
built by gcc 5.4.0 20160609 (Ubuntu 5.4.0-6ubuntu1~16.04.4) 
configure arguments: --add-module=/usr/local/src/fastdfs-nginx-module/src
7.整合fastdfs-nginx-module 和 Nginx
首先到/usr/local/src/fastdfs-nginx-module-master/src/目录下,拷贝mod_fastdfs.conf文件到/etc/fdfs目录下,然后进行如下配置:
base_path=/home/kelvin/data/fastdfs
tracker_server=192.168.2.231:22122
url_have_group_name = true
store_path0=/home/kelvin/data/fastdfs/storage
然后配置Nginx,添加如下内容:
    server {
        listen       80;
        server_name  localhost;

        ...
        
         # 配置fastdfs的访问路径
        location /group1/M00 {
            ngx_fastdfs_module;
        }
        ...
    }
之后启动nginx:
$ sudo /usr/local/nginx/sbin/nginx 
ngx_http_fastdfs_set pid=23238
上传测试
在进行测试之前,我们还需要先配置一下client.conf文件,该文件在/etc/fdfs目录下,配置如下:
$ sudo vi /etc/fdfs/cli
...
base_path=/home/kelvin/data/fastdfs
tracker_server=192.168.2.231:22122
...
然后,创建一个test.txt文件,随便输入一些内容,再进行上传:
$ echo HelloWorld > ~/test.txt
$ fdfs_test /etc/fdfs/client.conf upload ~/test.txt
...
[2017-09-23 20:12:00] DEBUG - base_path=/home/kelvin/data/fastdfs, connect_timeout=30, network_timeout=60, tracker_server_count=1, anti_steal_token=0, anti_steal_secret_key length=0, use_connection_pool=0, g_connection_pool_max_idle_time=3600s, use_storage_id=0, storage server id count: 0

tracker_query_storage_store_list_without_group: 
    server 1. group_name=, ip_addr=192.168.2.231, port=23000

group_name=group1, ip_addr=192.168.2.231, port=23000
storage_upload_by_filename
group_name=group1, remote_filename=M00/00/00/wKgC51nHIoCACtpSAAAAC5KLpvs082.txt
source ip address: 192.168.2.231
file timestamp=2017-09-23 20:12:00
file size=11
file crc32=2458625787
example file url: //192.168.2.231/group1/M00/00/00/wKgC51nHIoCACtpSAAAAC5KLpvs082.txt
...
最后,在浏览器里输入//192.168.2.231/group1/M00/00/00/wKgC51nHIoCACtpSAAAAC5KLpvs082.txt,即可访问到test.txt的文件内容:


以上就是Fastdfs的安装过程,如有错误,欢迎指出,共同进步。    

本文由职坐标整理发布,学习更多的大数据技术相关知识,请关注职坐标大技术云计算大技术技术频道!

本文由 @沉沙 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 0
看完这篇文章有何感觉?已经有0人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式IT培训就业服务领导者 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved

208小时内训课程