当前位置： 代码迷 >> 综合 >> 分布式 第七章 FastDFS
  详细解决方案

分布式 第七章 FastDFS

热度：53   发布时间：2023-12-21 15:51:48.0

文章目录

      • 第1章 FastDFS入门
      • 第2章 FastDFS环境搭建
      • 第3章 FastDFS的Http访问
      • 第4章 FastDFS 在Java项目中的开发示例
      • 第5章 FastDFS 在Web项目中的应用
      • 第6章 FastDFS 分布式文件系统集群
  • 传送门

第1章 FastDFS入门

在这里插入图片描述

FastDFS整体架构

两大机构：客户端（通常为我们的程序）+服务端（跟踪器[调度工作]+存储结点[文件存储及管理]）

第2章 FastDFS环境搭建

启动tracker、storage，上传文件

fdfs_trackerd /etc/fdfs/tracker.conf
fdfs_storaged /etc/fdfs/storage.conf
ps -ef | grep fdfs
fdfs_test /etc/fdfs/client.conf upload aa.txt

第3章 FastDFS的Http访问

超级繁琐，吐了

但配置一次之后就方便了

扩展模块执行流程:
在这里插入图片描述

第4章 FastDFS 在Java项目中的开发示例

package fun.rtzhao.fastdfs;import org.csource.common.MyException;
import org.csource.fastdfs.*;import java.io.IOException;/** @Author 邪王真眼是最强的 @Date 2021/9/9 17:44 @Version 1.0 */
public class FastDFSUtil {
    public static void main(String[] args) {
    delect();}/*上传文件*/public static void upload() {
    TrackerServer trackerServer = null;StorageServer storageServer = null;try {
    /*读取Fastdfs配置文件，将所有的tracker的地址读到内存中去*/ClientGlobal.init("fastdfs.conf");TrackerClient trackerClient = new TrackerClient();trackerServer = trackerClient.getConnection();storageServer = trackerClient.getStoreStorage(trackerServer);// 定义Storage的客户端对象，用它完成具体的文件上传、下载和删除StorageClient storageClient = new StorageClient(trackerServer, storageServer);String[] result = storageClient.upload_file("d:/test.jpg", "jpg", null);for (String str:result){
    System.out.println(str);}} catch (IOException e) {
    e.printStackTrace();} catch (MyException e) {
    e.printStackTrace();}finally{
    if(storageServer!=null){
    try {
    storageServer.close();} catch (IOException e) {
    e.printStackTrace();}}if(trackerServer!=null){
    try {
    trackerServer.close();} catch (IOException e) {
    e.printStackTrace();}}}}/*下载文件*/public static void download() {
    TrackerServer trackerServer = null;StorageServer storageServer = null;try {
    /*读取Fastdfs配置文件，将所有的tracker的地址读到内存中去*/ClientGlobal.init("fastdfs.conf");TrackerClient trackerClient = new TrackerClient();trackerServer = trackerClient.getConnection();storageServer = trackerClient.getStoreStorage(trackerServer);// 定义Storage的客户端对象，用它完成具体的文件上传、下载和删除StorageClient storageClient = new StorageClient(trackerServer, storageServer);int result =storageClient.download_file("group1", "M00/00/00/wKg0gGE529iAb4XMAAe9bZMw0PM358.jpg", "d:/aa.jpg");System.out.println(result);} catch (IOException e) {
    e.printStackTrace();} catch (MyException e) {
    e.printStackTrace();}finally{
    if(storageServer!=null){
    try {
    storageServer.close();} catch (IOException e) {
    e.printStackTrace();}}if(trackerServer!=null){
    try {
    trackerServer.close();} catch (IOException e) {
    e.printStackTrace();}}}}/*删除文件*/public static void delect() {
    TrackerServer trackerServer = null;StorageServer storageServer = null;try {
    /*读取Fastdfs配置文件，将所有的tracker的地址读到内存中去*/ClientGlobal.init("fastdfs.conf");TrackerClient trackerClient = new TrackerClient();trackerServer = trackerClient.getConnection();storageServer = trackerClient.getStoreStorage(trackerServer);// 定义Storage的客户端对象，用它完成具体的文件上传、下载和删除StorageClient storageClient = new StorageClient(trackerServer, storageServer);int result =storageClient.delete_file("group1", "M00/00/00/wKg0gGE529iAb4XMAAe9bZMw0PM358.jpg");System.out.println(result);} catch (IOException e) {
    e.printStackTrace();} catch (MyException e) {
    e.printStackTrace();}finally{
    if(storageServer!=null){
    try {
    storageServer.close();} catch (IOException e) {
    e.printStackTrace();}}if(trackerServer!=null){
    try {
    trackerServer.close();} catch (IOException e) {
    e.printStackTrace();}}}}}

第5章 FastDFS 在Web项目中的应用

文件从用户的机器上传到web服务器tomcat中，在tomcat中拿到用户的文件流，再将文件流上传到fastDFS中并且存入到数据库中

错误：初步搭建springboot应用，报错：Failed to configure a DataSource: ‘url’ attribute is not specified and no embedd

解决办法：properties配置文件未能正确被识别，需要根据添加的起步依赖修改配置文件字段，如下

spring.datasource.driverClassName=com.mysql.jdbc.Driver
spring.datasource.url=jdbc:mysql://127.0.0.1:3306/fastdfs?useUnicode=true&characterEncoding=UTF-8&useSSL=false
spring.datasource.username=root
spring.datasource.password=333

IDEA识别完成所有字段，才能顺利运行

不正确解决方式----spring boot 会默认加载org.springframework.boot.autoconfigure.jdbc.DataSourceAutoConfiguration这个类， 而DataSourceAutoConfiguration类使用了@Configuration注解向spring注入了dataSource bean，又因为项目（oss模块）中并没有关于dataSource相关的配置信息，所以当spring创建dataSource bean时因缺少相关的信息就会报错。 解决办法：在@SpringBootApplication注解上加上exclude，解除自动加载DataSourceAutoConfiguration

第6章 FastDFS 分布式文件系统集群

太湖之光 集群
在这里插入图片描述

负载均衡操作

#0为轮询、1为指定组、2为存储空间优先
store_lookup=0
store_group=group2

文件访问执行流程:
在这里插入图片描述

集群配置流程
FastDFS分布式文件系统集群环境搭建-操作步骤手册

搭建一个FastDFS分布式文件系统集群，推荐至少部署6个服务器节点；
搭建FastDFS的集群
第一步：安装6个迷你版的Linux，迷你版Linux没有图形界面，占用磁盘及资源小，企业里面使用的Linux都是没有图形界面的Linux；

第二步：由于迷你版Linux缺少一些常用的工具库，操作起来不方便，推荐安装如下的工具库：
1、安装lrzsz， yum install lrzsz -y
2、安装wget, yum install wget -y
4、安装vim， yum install vim -y
5、安装unzip，yum install unzip -y
6、安装ifconfig，yum install net-tools -y

yum install lrzsz wget vim unzip net-tools -y

7、安装nginx及fastdfs需要的库依赖：
yum install gcc perl openssl openssl-devel pcre pcre-devel zlib zlib-devel libevent libevent-devel -y

第三步 安装fastdfs
1、 上传fastdfs的安装包和libfastcommon的安装包
2、 解压libfastcommon 安装libfastcommon
3、 解压fastdfs 安装fastdfs
4、 拷贝fastdfs目录中的http.conf和mime.types到/etc/fdfs 目录中
注：6台机器全部执行这些操作

第四步：部署两个tracker server服务器，需要做的工作:

修改两个tracker服务器的配置文件：
tracker.conf: 修改一个地方：
base_path=/opt/fastdfs/tracker   #设置tracker的数据文件和日志目录（需预先创建）
启动tracker服务器 fdfs_trackerd /etc/fdfs/tracker.conf

第五步 修改两个组中的4台storage中storage.conf文件
第一组group1的第一个storage server（修改storage.conf配置文件）：
group_name=group1 #组名，根据实际情况修改，值为 group1 或 group2
base_path=/opt/fastdfs/storage #设置storage的日志目录（需预先创建）
store_path0=/opt/fastdfs/storage/files #存储路径
tracker_server=192.168.171.135:22122 #tracker服务器的IP地址以及端口号
tracker_server=192.168.171.136:22122

第二组group2的第一个storage server（修改storage.conf配置文件）：
group_name=group2   #组名，根据实际情况修改，值为 group1 或 group2
base_path=/opt/fastdfs/storage   #设置storage的日志目录（需预先创建）
store_path0=/opt/fastdfs/storage/files    #存储路径
tracker_server=192.168.171.135:22122  #tracker服务器的IP地址以及端口号
tracker_server=192.168.171.136:22122启动storage服务器
使用之前的Java代码测试FastDFS的6台机器是否可以上传文件

注意：FastDFS默认是带有负载均衡策略的可以在tracker的2台机器中修改tracker.conf文件
store_lookup=1

0 随机存放策略
1 指定组
2 选择磁盘空间的优先存放 默认值修改后重启服务
fdfs_trackerd /etc/fdfs/tracker.conf restart

使用Nginx进行负载均衡

第六步 安装 nginx ，使用nginx 对fastdfs 进行负载均衡
上传 nginx-1.12.2.tar.gz以及 nginx的fastdfs扩展模块安装包fastdfs-nginx-module-master.zip
添加nginx的安装依赖
yum install gcc openssl openssl-devel pcre pcre-devel zlib zlib-devel -y
解压nginx
tar -zxvf nginx-1.12.2.tar.gz
解压fastdfs扩展模块
unzip fastdfs-nginx-module-master.zip
配置nginx的安装信息
2台tracker服务器的配置信息（不需要fastdfs模块）
./configure --prefix=/usr/local/nginx_fdfs
4台storage服务器其的配置信息（需要使用fastdfs模块）
./configure --prefix=/usr/local/nginx_fdfs --add-module=/root/fastdfs-nginx-module-master/src
编译并安装nginx
./make
./make install

4台storage的服务器需要拷贝mod_fastdfs文件
将/root/fastdfs-nginx-module-master/src目录下的mod_fastdfs.conf文件拷贝到 /etc/fdfs/目录下，这样才能正常启动Nginx；

第七步 配置tracker 的两台机器的nginx
进入安装目录
cd /usr/local/nginx_fdfs

添加一个location 对请求进行拦截，配置一个正则规则 拦截fastdfs的文件路径， 并将请求转发到其余的4台storage服务器(修改 conf目录下nginx.conf 文件)
#nginx拦截请求路径：
location ~ /group[1-9]/M0[0-9] {   proxy_pass http://fastdfs_group_server; 
}添加一个upstream 执行服务的IP为 另外的4台stroage 的地址
#部署配置nginx负载均衡:
upstream fastdfs_group_server {  server 192.168.171.137:80;  server 192.168.171.138:80;server 192.168.171.139:80;  server 192.168.171.140:80;  
}

第八步 配置另外4台storage的nginx添加http访问的请求路径拦截
进入安装目录
cd /usr/local/nginx_fdfs
添加一个location 对请求进行拦截，配置一个正则规则 拦截fastdfs的文件路径，使用fastdfs的nginx模块转发请求(修改 conf目录下nginx.conf 文件)
#nginx拦截请求路径：
location ~ /group[1-9]/M0[0-9] {
ngx_fastdfs_module;
}

第九步 分别修改4台storage服务器的mod_fasfdfs.conf文件（/etc/fdfs/mod_fastdfs.conf）
#修改基本路径，并在指定路径创建对应文件夹
base_path=/opt/fastdfs/nginx_mod #保存日志目录
#指定两台tracker服务器的ip和端口
tracker_server=192.168.171.135:22122 #tracker服务器的IP地址以及端口号
tracker_server=192.168.171.136:22122
#指定storage服务器的端口号
storage_server_port=23000 #通常情况不需要修改
#指定当前的storage服务器所属的组名 （当前案例03和04为group1 05和06为group2）
group_name=group1 #当前服务器的group名
#指定url路径中是否包含组名 （当前案例url包含组名）
url_have_group_name=true #文件url中是否有group名
store_path_count=1 #存储路径个数，需要和store_path个数匹配（一般不用改）
store_path0=/opt/fastdfs/storage/files #存储路径
#指定组个数，根据实际配置决定，（当前案例拥有2个组group1和group2）
group_count = 2 #设置组的个数

在末尾增加2个组的具体信息：
[group1]
group_name=group1
storage_server_port=23000
store_path_count=1
store_path0=/opt/fastdfs/storage/files[group2]
group_name=group2
storage_server_port=23000
store_path_count=1
store_path0=/opt/fastdfs/storage/files第一个组的第二个storage按照相同的步骤操作；另外一个组的两个storage也按照相同的步骤操作；#测试nginx的配置文件是否正确（测试全部6台服务器）/usr/local/nginx_fdfs/sbin/nginx -c /usr/local/nginx_fdfs/conf/nginx.conf -t
#启动nginx服务器(全部6台服务器)/usr/local/nginx_fdfs/sbin/nginx -c /usr/local/nginx_fdfs/conf/nginx.conf

测试：使用浏览器分别访问 6台 服务器中的fastdfs文件

第十步：部署前端用户访问入口服务器，即访问192.168.230.128上的Nginx，该Nginx负载均衡到后端2个tracker server；
配置nginx.conf文件
location ~ /group[1-9]/M0[0-9] {
proxy_pass http://fastdfs_group_server;
}

添加一个upstream 执行服务的IP为 2台tracker 的地址
#部署配置nginx负载均衡:
upstream fastdfs_group_server {  server 192.168.171.135:80;  server 192.168.171.136:80; 
}

测试：使用浏览器访问128（唯一入口的nginx服务器）服务器中的fastdfs文件
注意：由于之前128的nginx中可能拥有静态资源拦截会导致访问不到文件，这时可以注释或删除这些静态资源拦截

补充资料
最后，为了让服务能正常连接tracker，请关闭所有机器的防火墙：
systemctl status firewalld 查看防火墙状态
systemctl disable firewalld 禁用开机启动防火墙
systemctl stop firewalld 停止防火墙
systemctl restart network 重启网络
systemctl start network 启动网络
systemctl stop network 停止网络

可能安装的linux（无图形的）没有开启网卡服务，可以修改/etc/sysconfig/network-scripts 下的网卡配置文件设置 ONBOOT=yse
表示开机启动网卡，然后启动网络服务即可

Keepalived当主nginx出现故障后会自动切换到备用nginx服务器的一款软件 通常由运维人员进行使用

传送门

上一章：分布式 第六章 Spring Session
下一章：分布式 第八章 RabbitMQ

  相关解决方案

代码迷 - 您身边的软件异常，代码异常，编程异常助手（发现，解决，分享）
Copyright © 2009-2013 DAIMAMI.COM. All rights reserved.