mycpen

Mycpen

记录学习历程与受益知识
github
telegram
bilibili

04_Other-使用 Python ftplib 模組同步又拍雲雲存儲數據至本地

1. 前言#

jsd 失效之後,博主將圖床資源從 github 遷移至又拍雲雲存儲上

qiniuClient 是我所知的 雲存儲管理客戶端,有需要的朋友可以下載使用

目前的圖床方案是寫文章時利用 picgo 上傳圖片,再通過 Python 腳本同步又拍雲上的圖片至本地,再將本地圖片 push 到 github,通過雲伺服器(CentOS)計劃任務 每天凌晨 1 點執行以上備份操作

2. 腳本內容#

源碼來自:https://blog.csdn.net/ouyang_peng/article/details/79271113

又拍雲官方教程:創建存儲服務和使用 FTP 上傳

說明:

  1. 腳本執行順序是先下載雲存儲資源至本地,再將本地資源上傳至雲存儲,所以雲存儲上的資源優先級更大,當本地出現同名資源時 會被覆蓋
  2. 根據自身情況修改 273、274 行 路線、操作員 / 服務名、token(參考 創建存儲服務和使用 FTP 上傳),和 290~297 行本地、雲存儲的資源路徑
#!/usr/bin/python
# -*- coding: UTF-8 -*-


from cmath import log
from ftplib import FTP
import os
import sys
import time
import socket
import subprocess

class MyFTP:
    """
        ftp自動下載、自動上傳腳本,可以遞歸目錄操作
        作者:歐陽鵬
        博客地址:http://blog.csdn.net/ouyang_peng/article/details/79271113
    """

    def __init__(self, host, port=21):
        """ 初始化 FTP 客戶端
        參數:
                 host:ip地址

                 port:端口號
        """
        # print("__init__()---> host = %s ,port = %s" % (host, port))

        self.host = host
        self.port = port
        self.ftp = FTP()
        # 重新設置下編碼方式
        #self.ftp.encoding = 'gbk'
        self.ftp.encoding = 'utf8'
        # 獲取腳本路徑
        path = os.path.dirname(os.path.realpath(__file__))
        self.log_file = open(path + "/log.txt", "a", encoding='utf-8')
        self.file_list = []

    def login(self, username, password):
        """ 初始化 FTP 客戶端
            參數:
                  username: 用戶名

                 password: 密碼
            """
        try:
            timeout = 60
            socket.setdefaulttimeout(timeout)
            # 0主動模式 1 #被動模式
            self.ftp.set_pasv(True)
            # 打開調試級別2,顯示詳細信息
            # self.ftp.set_debuglevel(2)

            self.debug_print('開始嘗試連接到 %s' % self.host)
            self.ftp.connect(self.host, self.port)
            self.debug_print('成功連接到 %s' % self.host)

            self.debug_print('開始嘗試登錄到 %s' % self.host)
            self.ftp.login(username, password)
            self.debug_print('成功登錄到 %s' % self.host)

            self.debug_print(self.ftp.welcome)
        except Exception as err:
            self.deal_error("FTP 連接或登錄失敗 ,錯誤描述為:%s" % err)
            pass

    def is_same_size(self, local_file, remote_file):
        """判斷遠程文件和本地文件大小是否一致

           參數:
             local_file: 本地文件

             remote_file: 遠程文件
        """
        try:
            remote_file_size = self.ftp.size(remote_file)
        except Exception as err:
            # self.debug_print("is_same_size() 錯誤描述為:%s" % err)
            remote_file_size = -1

        try:
            local_file_size = os.path.getsize(local_file)
        except Exception as err:
            # self.debug_print("is_same_size() 錯誤描述為:%s" % err)
            local_file_size = -1

        self.debug_print('local_file_size:%d  , remote_file_size:%d' % (local_file_size, remote_file_size))
        if remote_file_size == local_file_size:
            return 1
        else:
            return 0

    def download_file(self, local_file, remote_file):
        """從ftp下載文件
            參數:
                local_file: 本地文件

                remote_file: 遠程文件
        """
        self.debug_print("download_file()---> local_path = %s ,remote_path = %s" % (local_file, remote_file))

        if self.is_same_size(local_file, remote_file):
            self.debug_print('%s 文件大小相同,無需下載' % local_file)
            return
        else:
            try:
                self.debug_print('>>>>>>>>>>>>下載文件 %s ... ...' % local_file)
                buf_size = 1024
                file_handler = open(local_file, 'wb')
                self.ftp.retrbinary('RETR %s' % remote_file, file_handler.write, buf_size)
                file_handler.close()
            except Exception as err:
                self.debug_print('下載文件出錯,出現異常:%s ' % err)
                return

    def download_file_tree(self, local_path, remote_path):
        """從遠程目錄下載多個文件到本地目錄
                       參數:
                         local_path: 本地路徑

                         remote_path: 遠程路徑
                """
        print("download_file_tree()--->  local_path = %s ,remote_path = %s" % (local_path, remote_path))
        try:
            self.ftp.cwd(remote_path)
        except Exception as err:
            self.debug_print('遠程目錄%s不存在,繼續...' % remote_path + " ,具體錯誤描述為:%s" % err)
            return

        if not os.path.isdir(local_path):
            self.debug_print('本地目錄%s不存在,先創建本地目錄' % local_path)
            os.makedirs(local_path)

        self.debug_print('切換至目錄: %s' % self.ftp.pwd())

        self.file_list = []
        # 方法回調
        self.ftp.dir(self.get_file_list)

        remote_names = self.file_list
        self.debug_print('遠程目錄 列表: %s' % remote_names)
        for item in remote_names:
            file_type = item[0]
            file_name = item[1]
            local = os.path.join(local_path, file_name)
            if file_type == 'd':
                print("download_file_tree()---> 下載目錄: %s" % file_name)
                self.download_file_tree(local, file_name)
            elif file_type == '-':
                print("download_file()---> 下載文件: %s" % file_name)
                self.download_file(local, file_name)
        self.ftp.cwd("..")
        self.debug_print('返回上層目錄 %s' % self.ftp.pwd())
        return True

    def upload_file(self, local_file, remote_file):
        """從本地上傳文件到ftp

           參數:
             local_path: 本地文件

             remote_path: 遠程文件
        """
        if not os.path.isfile(local_file):
            self.debug_print('%s 不存在' % local_file)
            return

        if self.is_same_size(local_file, remote_file):
            self.debug_print('跳過相等的文件: %s' % local_file)
            return

        buf_size = 1024
        file_handler = open(local_file, 'rb')
        self.ftp.storbinary('STOR %s' % remote_file, file_handler, buf_size)
        file_handler.close()
        self.debug_print('上傳: %s' % local_file + "成功!")

    def upload_file_tree(self, local_path, remote_path):
        """從本地上傳目錄下多個文件到ftp
           參數:

             local_path: 本地路徑

             remote_path: 遠程路徑
        """
        if not os.path.isdir(local_path):
            self.debug_print('本地目錄 %s 不存在' % local_path)
            return

        self.ftp.cwd(remote_path)
        self.debug_print('切換至遠程目錄: %s' % self.ftp.pwd())

        local_name_list = os.listdir(local_path)
        for local_name in local_name_list:
            src = os.path.join(local_path, local_name)
            if os.path.isdir(src):
                try:
                    self.ftp.mkd(local_name)
                except Exception as err:
                    self.debug_print("目錄已存在 %s ,具體錯誤描述為:%s" % (local_name, err))
                self.debug_print("upload_file_tree()---> 上傳目錄: %s" % local_name)
                self.upload_file_tree(src, local_name)
            else:
                self.debug_print("upload_file_tree()---> 上傳文件: %s" % local_name)
                self.upload_file(src, local_name)
        self.ftp.cwd("..")

    def close(self):
        """ 退出ftp
        """
        self.debug_print("close()---> FTP退出")
        self.ftp.quit()
        self.log_file.close()

    def debug_print(self, s):
        """ 打印日誌
        """
        self.write_log(s)

    def deal_error(self, e):
        """ 處理錯誤異常
            參數:
                e:異常
        """
        log_str = '發生錯誤: %s' % e
        self.write_log(log_str)
        sys.exit()

    def write_log(self, log_str):
        """ 記錄日誌
            參數:
                log_str:日誌
        """
        time_now = time.localtime()
        date_now = time.strftime('%Y-%m-%d', time_now)
        format_log_str = "%s ---> %s \n " % (date_now, log_str)
        print(format_log_str)
        self.log_file.write(format_log_str)

    def get_file_list(self, line):
        """ 獲取文件列表
            參數:
                line:
        """
        file_arr = self.get_file_name(line)
        # 去除  . 和  ..
        if file_arr[1] not in ['.', '..']:
            self.file_list.append(file_arr)

    def get_file_name(self, line):
        """ 獲取文件名
            參數:
                line:
        """
        pos = line.rfind(':')
        while (line[pos] != ' '):
            pos += 1
        while (line[pos] == ' '):
            pos += 1
        file_arr = [line[0], line[pos:]]
        return file_arr


if __name__ == "__main__":
    # 清除日誌
    path = os.path.dirname(os.path.realpath(__file__))      # 腳本路徑
    if os.path.exists(path + '/log.txt'):
        log_file = path + '/log.txt 'if os.sep == "/" else path + '\\' + 'log.txt'
        subprocess.Popen(f'rm -rf {log_file}', shell=True)
        time.sleep(1)

    my_ftp = MyFTP("v0.ftp.upyun.com")
    my_ftp.login("xxx/xxx", "tokenxxxxxxxxx")


    # 下載單個文件
    # my_ftp.download_file("E:/code_zone/image_bed/image/wallpaper/1.jpg", "/image/wallpaper/1.jpg")

    # 上傳單個文件
    # my_ftp.upload_file("G:/ftp_test/Release/XTCLauncher.apk", "/App/AutoUpload/ouyangpeng/I12/Release/XTCLauncher.apk")

    # 下載目錄
    # image.cpen.top/image/ → 本地 E:/code_zone/image_bed/image/    (本地圖床目錄, 又拍雲路徑)
    if os.sep == "\\":
        my_ftp.download_file_tree("E:/code_zone/image_bed/image/", "/image/")
    elif os.sep == "/":     # aliyun
        my_ftp.download_file_tree("/root/code_zone/image_bed/image/", "/image/")

    # 上傳目錄
    # 本地 E:/code_zone/image_bed/image/ → image.cpen.top/image/    (本地圖床目錄, 又拍雲路徑)
    if os.sep == "\\":      # Windows
        my_ftp.upload_file_tree("E:/code_zone/image_bed/image/", "/image/")    
        my_ftp.close()
    elif os.sep == "/":     # aliyun
        my_ftp.upload_file_tree("/root/code_zone/image_bed/image/", "/image/")  
        my_ftp.close()


# 命令
# python E:/code_zone/tools/python-ftp/ftp.py
# python3 /root/code_zone/tools/python-ftp/ftp.py

執行命令

# Windows 終端
python E:/code_zone/tools/python-ftp/ftp.py

# 類 Unix 終端
python3 /root/code_zone/tools/python-ftp/ftp.py

3. 參考文章#

源碼來自:Python 實現的 FTP 上傳和下載功能

又拍雲官方教程:創建存儲服務和使用 FTP 上傳

載入中......
此文章數據所有權由區塊鏈加密技術和智能合約保障僅歸創作者所有。