百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT知识 > 正文

python编程实践:下载文件模块wget的使用

liuian 2025-01-06 14:02 76 浏览

wget是Linux中的一个下载文件的工具,是在Linux下开发的开放源代码的软件,后来被移植到包括Windows在内的各个平台上,也就是wget目前是跨平台的下载软件了。wget工具体积小但功能完善,它支持断点下载功能,同时支持http,https,ftp协议下载方式,支持http代理服务器和设置起来方便简单。

本教程,不是介绍wget软件的如何使用,而是介绍如何在 Python 中使用 wget 模块进行文件下载。通过使用 wget 库,我们可以轻松地从网络上下载各种文件,如文本、图像、视频、音频、压缩、grib2等文件,也就是说所有文件都能下载,当然需要服务器支持,服务器不支持下载的文件,你也下载不了。

网络上有wget模块的讲解,但是大多不系统、不全面。应粉丝的要求,本人通过网络搜索整理、查看源代码、加上自己的理解和实践,形成本教程。

一、安装wget模块

pip install wget

目前wget的版本是3.2。

二、wget模块参数说明

wget.download(url, out=None, bar=bar_adaptive)
  • url:要下载的url。下载url到系统的临时目录中,然后从URL或HTTP headers自动检测文件名并命名,如果当前有相同的名字,则自动改名,添加“(1)(2)”等字符。
  • out:输出文件名或目录
  • bar:跟踪下载进度的函数(可视化等)
  • return:返回url被下载到的文件名

三、下载文件

下载文件实例1:

url:是我随便在网上找的一个链接。它是一个压缩软件执行程序。

import wget
url = 'https://motzdown.mydown.com/package/wincompress_1/win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528.exe'
localfile = wget.download(url)
print(localfile)  #win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528 1.exe

返回的是:win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528 1.exe,也就是下载的文件名。
下载文件实例2:

下载文件并保存在当前目录下。

import wget
url = 'https://motzdown.mydown.com/package/wincompress_1/win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528.exe'
localfile = './win解压缩_1800_1_31_2528.exe'
wget.download(url,out=localfile)

运行的效果下图所示。

它有一个默认的下载进度栏,非常直观和方便。

三、设置代理

有时,我们下载文件的过程中,需要用到http代理服务器来下载文件,这时怎么办,wget 模块也提供了相应的功能。这时我们可以使用 proxy参数来指定http代理服务器的地址。示例如下:

import wget
url = 'https://xxx.xxx.com/test.rar'
localfile = './test.rar'
proxy = 'http://proxy.xxx.xxx.com:20080'
wget.download(url, localfile, proxy=proxy)

四、下载进度

翻看wget的源程序,bar_adaptive函数就是它下载文件的进度显示的函数。它有三个参数,current:当前已经下载文件的大小, total:文件的大小, width=80:显示字符的宽度。

这个例子我就不具体讲解了,有兴趣的可以仔细学习一下。

def bar_adaptive(current, total, width=80):
    """Return progress bar string for given values in one of three
    styles depending on available width:

        [..  ] downloaded / total
        downloaded / total
        [.. ]

    if total value is unknown or <= 0, show bytes counter using two
    adaptive styles:

        %s / unknown
        %s

    if there is not enough space on the screen, do not display anything

    returned string doesn't include control characters like \r used to
    place cursor at the beginning of the line to erase previous content.

    this function leaves one free character at the end of string to
    avoid automatic linefeed on Windows.
    """

    # process special case when total size is unknown and return immediately
    if not total or total < 0:
        msg = "%s / unknown" % current
        if len(msg) < width:    # leaves one character to avoid linefeed
            return msg
        if len("%s" % current) < width:
            return "%s" % current

    # --- adaptive layout algorithm ---
    #
    # [x] describe the format of the progress bar
    # [x] describe min width for each data field
    # [x] set priorities for each element
    # [x] select elements to be shown
    #   [x] choose top priority element min_width < avail_width
    #   [x] lessen avail_width by value if min_width
    #   [x] exclude element from priority list and repeat
    
    #  10% [.. ]  10/100
    # pppp bbbbb sssssss

    min_width = {
      'percent': 4,  # 100%
      'bar': 3,      # [.]
      'size': len("%s" % total)*2 + 3, # 'xxxx / yyyy'
    }
    priority = ['percent', 'bar', 'size']

    # select elements to show
    selected = []
    avail = width
    for field in priority:
      if min_width[field] < avail:
        selected.append(field)
        avail -= min_width[field]+1   # +1 is for separator or for reserved space at
                                      # the end of line to avoid linefeed on Windows
    # render
    output = ''
    for field in selected:

      if field == 'percent':
        # fixed size width for percentage
        output += ('%s%%' % (100 * current // total)).rjust(min_width['percent'])
      elif field == 'bar':  # [. ]
        # bar takes its min width + all available space
        output += bar_thermometer(current, total, min_width['bar']+avail)
      elif field == 'size':
        # size field has a constant width (min == max)
        output += ("%s / %s" % (current, total)).rjust(min_width['size'])

      selected = selected[1:]
      if selected:
        output += ' '  # add field separator

    return output

下面我给出了三个小例子,希望给大家以启迪。

例子1,显示直接用sys.stdout.write,而且用了"\r"符号,只回车不换行。也就是从头开始显示,但不换新行。

import sys
import wget

url = 'https://motzdown.mydown.com/package/wincompress_1/win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528.exe'
localfile = './win解压缩_1800_1_31_2528.exe'

def bar_progress(current, total, width=80):
     progress_message = "Downloading: %d%% [%d / %d] bytes" % (current / total * 100, current, total)
     # 不要使用print(),因为它显示,总是会另起新的一行显示。
     sys.stdout.write("\r" + progress_message)
     sys.stdout.flush()

wget.download(url,out=localfile,bar=bar_progress)

运行效果如下:

例子2,和例子1类似,但是实现了下载的进度条。

import sys
import wget

url = 'https://motzdown.mydown.com/package/wincompress_1/win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528.exe'
localfile = './win解压缩_1800_1_31_2528.exe'

def progress_bar(current, total, width=80):
    progress = current / total
    bar = '#' * int(progress * width)
    percentage = round(progress * 100, 2)
    tempstr = f'[{bar:<{width}}] {percentage}%'
    sys.stdout.write("\r" + tempstr)
    sys.stdout.flush()

wget.download(url,out=localfile,bar=progress_bar)

运行效果如下:

例子3,是在和例子2基础上改写,进度条从“######”改为“..........”,没有使用sys.stdout.write,而是直接返回要显示的字符串。

这就是直接仿照官方源代码改写的。也就是说,自定义的进度条,只需要返回要显示的字符串即可。

import sys
import wget

url = 'https://motzdown.mydown.com/package/wincompress_1/win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528.exe'
localfile = './win解压缩_1800_1_31_2528.exe'

def progress_bar(current, total, width=80):
    progress = current / total
    bar = '.' * int(progress * width)
    percentage = round(progress * 100, 2)
    tempstr = f'[{bar:<{width}}] {percentage}%'
    return tempstr 

wget.download(url,out=localfile,bar=progress_bar)

运行效果如下:

需要说明的是,有时您下载的文件大小,服务器没有给出,这时total的数值就不知道。对于这一点,bar_adaptive的代码考虑得非常全面。本教程给的三个自定义进度函数,没有考虑这种情况,如果遇见这种情况,程序会出错退出的。有兴趣的粉丝,可以参照bar_adaptive的代码进行完善。有不懂的,可以在评论区讨论。

五、异常处理

在使用 wget 进行文件下载时,不可避免地会遇到一些异常的情况,如连接到服务器出现问题、下载过程中出现中断或出现错误等。为了确保程序的不意外中断、能继续执行后面的任务,我们可以使用异常处理来处理这些异常情况,这样我们可以根据日志来判断程序执行的情况,从而采取具体的处理措施。当然这种异常处理是一般程序的处理方法,这里只是介绍,非wget所独有。示例如下:

try:
    wget.download(url,  localfile)
except Exception as e:
    print(f'An error occurred: {e}')

相关推荐

外接键盘按键错乱怎么恢复(外接键盘键位失灵)

1、首先,依次点击开始菜单-->搜索“设备管理器”,然后单击右侧的“打开”选项。2、其次,完成上述步骤后,系统将打开“设备管理器”窗口。3、接着,完成上述步骤后,展开键盘,右键单击,选择“更新驱...

最好的在线影视免费(哪个网站能看到免费的电视剧)

在线网站看电影不卡顿1.欧西电影它是一个很好用的追剧网站,里面都是一些高清免费的电影,但是只能在线观看,不能够去下载,不过它还支持手机观看哦,非常的方便,只要网络好就没问题了。2.思古影视这是一个可以...

解除安全模式dnf(解除安全模式怎么解除)
  • 解除安全模式dnf(解除安全模式怎么解除)
  • 解除安全模式dnf(解除安全模式怎么解除)
  • 解除安全模式dnf(解除安全模式怎么解除)
  • 解除安全模式dnf(解除安全模式怎么解除)
路由器更换密码(mw300r路由器初始密码)

打开浏览器,在地址栏输入192.168.1.1(一般路由器地址是这个或者查看路由器背面的登录信息)进路由-输入用户名,密码,(默认一般是admin)。2、点击:系统工具--登陆口令--修改---保存...

如何设置无线路由器的wifi密码

1、首先连接、开启路由器,使它可以正常工作;其次把网线的两头分别与路由器的外网接口、电脑的内网接口相接;最后开启浏览器,进入路由器的设置主页,在密码管理选项中,输入相应的账户名称、密码,点击保存就设置...

如何给电脑软件加密(如何给电脑软件加密码锁)

电脑可以通过以下几种方式给应用程序加锁:1. 使用操作系统自带的功能:在Windows操作系统中,可以使用“家长控制”功能对特定应用程序进行限制,包括设置密码、限制使用时间等。在Mac...

window10中文语言包下载(win10 语言包下载)

1、进入的这个程序“steam”游戏库中打开巫师3的中文设置。单击右键,找到属性,再打开的属性弹窗中,找到语言,再语言列表中就可以选择我们想要的语言,可以看到没有简体中文。2、最后进入游戏中选择选项,...

win10任务管理器灰色打不开(windows10任务管理器打不开怎么办)

是的,任务管理器可能会出现灰色的情况。这是因为在某些电脑中,系统管理员有权限限制普通用户使用任务管理器。此外,有一些病毒或恶意软件也会禁止用户打开任务管理器,以防其被检测和结束。如果用户想要打开任务管...

请重试(请重试无法验证你的设备)

通常出现这个情况的原因是文档是被保护的。取消文档加密步骤:点击0ffice按钮-准备-加密文档删除密码-确定取消工作表保护如果Excel2007工作表已保护起来,“保护工作表”按钮将自动变化为“取消工...

免费注册个人邮箱账号(免费注册邮箱号码)
  • 免费注册个人邮箱账号(免费注册邮箱号码)
  • 免费注册个人邮箱账号(免费注册邮箱号码)
  • 免费注册个人邮箱账号(免费注册邮箱号码)
  • 免费注册个人邮箱账号(免费注册邮箱号码)
下载机系统(下载机有什么用)

1、点亮手机屏幕,找到【系统工具】文件夹,点击打开。2、进入系统工具界面,找到【文件管理】选项,点击打开。3、在文件管理界面,选择【手机版】选项,点击打开。4、在此界面,向下方滑动找到【downloa...

备份整个硬盘为镜像(备份分区到镜像)

1、尝试过,TimeMachine可以备份到移动硬盘的其中一个分区。2、如果希望移动硬盘既可用于TimeMachine备份,也可用于Windows系统,我是这样做的:首先为移动硬盘分区(至少2个分...

佳能打印机驱动安装视频教程

电脑搜索“佳能驱动”。02进入首页点击“服务于支持”。03然后选择“下载与支持”点击进入。04然后选择你使用的打印机种类图片。05然后在选择产品页面逐一选择产品的种类、系列、型号、下载的文件类型。06...

班级优化大师官网登录(班级优化大师官网登录网址)

班级优化大师可以在另一个手机上重新下载安装该应用,并使用之前绑定的账户进行登录操作,即可同步之前的班级信息和配置。如果之前未绑定账户,则需要通过“找回密码”或“注册新账户”的方式来登录应用,并重新配置...

什么是chatgpt(什么是ai技术)

ChatGPT是由美国人工智能实验室OpenAI开发的一个对话AI模型,于2022年11月正式推出。它能够通过学习和理解人类的语言来进行对话互动,并协助人类完成一系列任务。chatGPT实际上是美国o...