百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT知识 > 正文

curl经典使用场景。高端的命令只需要简单的操作,网络访问利器

liuian 2024-12-04 13:46 21 浏览

命令简介

curl是一个广为使用的命令,可以帮助用户将数据传送或从一个远程服务器。 它支持许多协议包括HTTP, HTTPS, FTP, FTPS, SCP, SFTP, TFTP, DICT, TELNET, LDAP,以及 FILE。

curl提供了很多特性,包括文件断点续传,支持代理,FTP上传,用户认证,POST方法,带宽限制,等等。curl的底层采用libcurl 库。

在新版的Linux 中,curl已经内嵌安装,不需要额外安装。如果运行时候发现提示命令不存在,可以用系统自带的管理工具安装。
CentOS, RHEL, Fedora等系统的安装命令:

sudo dnf install curl

Ubuntu, Debian等系统的安装命令:

sudo apt install curl

实例

curl命令格式:

$ curl [option] url

1 显示url的内容

可以使用curl查看URL对应的页面源码。
示例:

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl http://www.baidu.com
<!DOCTYPE html>
<!--STATUS OK--><html> <head><meta http-equiv=content-type content=text/html;charset=utf-8><meta http-equiv=X-UA-Compatible content=IE=Edge><meta content=always name=referrer><link rel=stylesheet type=text/css href=http://s1.bdstatic.com/r/www/cache/bdorz/baidu.min.css>...</html>

2 只接收header

通过参数-I 或者 --head,让curl只获取header信息。
示例:

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -I http://www.baidu.com
HTTP/1.1 200 OK
Accept-Ranges: bytes
Cache-Control: private, no-cache, no-store, proxy-revalidate, no-transform
Connection: keep-alive
Content-Length: 277
Content-Type: text/html
Date: Tue, 29 Nov 2022 03:21:15 GMT
Etag: "575e1f59-115"
Last-Modified: Mon, 13 Jun 2016 02:50:01 GMT
Pragma: no-cache
Server: bfe/1.0.8.18

3 下载内容并保存到文件

curl通过参数-o 或者 --output 来保存内容。用户需要指定文件名称。
命令格式:

curl -o filename URL
或者
curl --output filename URL

示例:

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -o baidu www.baidu.com
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  2381  100  2381    0     0  12801      0 --:--:-- --:--:-- --:--:-- 12732
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ ls
baidu

如上例,curl会展示下载过程中的数据,例如,传输速度,文件大小,耗时等。

4 通过curl下载文件

如果url代表的是一个文件,可以通过-o 或者 --output保存文件。

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -o baidu.png https://b.bdstatic.com/searchbox/icms/searchbox/img/cheng_girl.png
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  9337  100  9337    0     0  21172      0 --:--:-- --:--:-- --:--:-- 21172
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ ll
total 16
-rw-r--r-- 1 yunzhong yunzhong 9337 Nov 29 12:19 baidu.png

5 下载文件并保存为URL相同名字

上面的例子,我们用-o 或者 --output指定下载文件的名称。为了简化操作,我们可以使用参数-O 或者 --remote-name, 用URL中的文件名作为下载的文件名。

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -O  https://b.bdstatic.com/searchbox/icms/searchbox/img/cheng_girl.png
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  9337  100  9337    0     0  23459      0 --:--:-- --:--:-- --:--:-- 23401
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ ll
total 28
-rw-r--r-- 1 yunzhong yunzhong 9337 Nov 29 12:23 cheng_girl.png

6 同时下载多个文件

curl支持同时下载多个文件,每个文件设置参数-o 或者 -O
命令格式:

$ curl -O url1 -O url2

示例:

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -O  https://b.bdstatic.com/searchbox/icms/searchbox/img/cheng_girl.png -O https://b.bdstatic.com/searchbox/icms/searchbox/img/young_boy.png
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  9337  100  9337    0     0  22498      0 --:--:-- --:--:-- --:--:-- 22498
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  7730  100  7730    0     0  75048      0 --:--:-- --:--:-- --:--:-- 75048
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ ll
total 36
-rw-r--r-- 1 yunzhong yunzhong 9337 Nov 29 21:51 cheng_girl.png
-rw-r--r-- 1 yunzhong yunzhong 7730 Nov 29 21:51 young_boy.png

7 恢复下载

如果一个下载终止或者被打断,可以使用-C 或者 --continue-at参数 恢复下载。当设置了参数,curl命令将会找出断点位置并重新执行。
示例:


yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -C - -O https://releases.ubuntu.com/22.04.1/ubuntu-22.04.1-desktop-amd64.iso
** Resuming transfer from byte position 311296
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
  0 3649M    0  240k    0     0  54649      0 19:26:59  0:00:04 19:26:55 54637^C

8 使用curl跟随重定向

默认情况下,curl并不会跟踪重定向。如果目标页被移动到另外一个地址,我们可以通过-L 或者 --location参数来跟踪。
首先明确下,怎么知道是重定向。http标准状态码可以明确告知,下面是状态码的基本列表:

编码

子编码

意义

100+


代表请求已被接受,需要继续处理。

200+


请求已成功被服务器接收、理解、并接受。

300+


重定向

400+


请求错误


403

服务器已经理解请求,但是拒绝执行。


404

请求失败,服务器没有对应的资源。

500+


服务器内部出现错误。




因此,如果服务器返回的状态码为300+,则说明进行了重定向。

示例:
我们以必应为例,当访问www.bing.com时,会自动重定向到www.cn.bing.com。因此直接使用curl并不能获得结果,添加-L参数后才能获得页面信息。

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl www.bing.com
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -L www.bing.com
<!doctype html><html lang="zh" dir="ltr"><head>...

9 curl的静默模式

curl可以使用参数-s 或者 --silent 隐藏参数信息或者错误信息。

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -O https://b.bdstatic.com/searchbox/icms/searchbox/img/young_girl.png
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  8647  100  8647    0     0  37271      0 --:--:-- --:--:-- --:--:-- 37271
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -O -s https://b.bdstatic.com/searchbox/icms/searchbox/img/young_girl.png
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$

10 查看请求返回码

配合grep,可以过滤出请求结果的状态码。
命令格式:

$ curl -IsL URL | grep HTTP 

如果想单纯的获得状态码,可以配合awk命令。

$ curl -IsL URL  | grep HTTP | awk '{print $2}'

示例:

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -IsL www.baidu.com | grep HTTP
HTTP/1.1 200 OK
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -IsL www.baidu.com | grep HTTP | awk '{print $2}'
200

11 设置最大传输速率

--limit-rate参数可以设定最大传输速率。如果未设置后缀,则参数值的单位是bytes/second 。可用的后缀为k,m,g。
示例:
Average Dload可以看出,速度限制生效。也可以看出,我的网速有多么慢。

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl --limit-rate 2 -O https://releases.ubuntu.com/22.04.1/ubuntu-22.04.1-desktop-amd64.iso
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
  0 3649M    0 16384    0     0   1352      0  32d 18h  0:00:12  32d 18h     0^C
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl --limit-rate 2k -O https://releases.ubuntu.com/22.04.1/ubuntu-22.04.1-desktop-amd64.iso
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
  0 3649M    0 49152    0     0   2890      0  15d 07h  0:00:17  15d 07h  3278^

12 从有认证的FTP服务器下载文件

curl命令可以使用-u 或者 --user 参数设置访问服务器的用户名密码。
命令格式:

$ curl -u FTP_USERNAME:FTP_PASSWORD ftp://ftp.example.com/file.txt
或者
$ curl --user FTP_USERNAME:FTP_PASSWORD ftp://ftp.example.com/file.txt

13 上传文件到ftp服务器

可以使用-T 或者 --upload-file 参数指定上传ftp服务器的文件。一般的服务器都需要认证,因此可以与-u 或者 --user参数一起使用,指定认证信息。
命令格式:

$ curl -T filename -u FTP_USERNAME:FTP_PASSWORD ftp://ftp.example.com/file.txt
或者
$ curl --upload-file filename -u FTP_USERNAME:FTP_PASSWORD ftp://ftp.example.com/file.txt

14 使用curl发送POST请求

使用参数-d 或者 --data,可以为POST请求设定数据。默认情况下,采用表单(form)的形式发送数据,因此数据必须是key=value形式,且多个key之间采用&分割。
示例:

$ curl -d "fname=John&lname=Doe" https://www.example.com/post
或者
$ curl --data "fname=John&lname=Doe" https://www.example.com/post

其实,很多时候,我们都采用了json数据格式,而并非是form表单形式。
可以使用如下命令:

curl -H "Content-Type: application/json" -X POST -d '{"json":"value", "jsonKey": "value2"}' https://www.example.com/post

其中,-H命令设定了请求header参数。
-X参数,设定了请求的http方法。
-d参数,设定了请求的发送数据。

和POST类似,可以使用-x和-d命令,实现http其他方法的支持,例如PUT等。

15 指定proxy

可以使用参数-x 或者 --proxy 指定代理,如果未设定端口则默认使用1080端口。
命令格式:

$ curl -x proxy_host:port url
或者
$ curl --proxy proxy_host:port url

16 为proxy指定用户名密码

如果proxy服务需要认证信息,我们可以使用参数-U 或者 --proxy-user 传递用户名密码信息。
命令格式:

$ curl -U username:password -x proxy_host:port url
或者
$ curl --proxy-user username:password -x proxy_host:port url

17 DICT协议支持

curl 支持DICT(dictionary network protocol)协议,对于发现名词定义有很好的帮助。
不需要额外参数,可以直接调用。

$ curl dict://dict.org/d:machine

相关推荐

Docker 47 个常见故障的原因和解决方法

【作者】曹如熙,具有超过十年的互联网运维及五年以上团队管理经验,多年容器云的运维,尤其在Docker和kubernetes领域非常精通。Docker是一种相对使用较简单的容器,我们可以通过以下几种方式...

电脑30个快问快答,解决常见电脑问题

1.强行关机/停电对电脑有影响吗?答:可能损坏硬盘(机械硬盘风险高)、未保存数据丢失,偶尔一次影响小,但频繁操作会缩短硬件寿命。2.C盘满影响速度吗?答:会!系统运行需C盘空间缓存临时数据,空间不...

使用Tcpdump包抓取分析数据包的详细用法

TcpDump可以将网络中传送的数据包的“头”完全截获下来提供分析。它支持针对网络层、协议、主机、网络或端口的过滤,并提供and、or、not等逻辑语句来帮助你去掉无用的信息。tcpdump就是一种...

电脑启动不了(BootDevice Not Found Hard Disk-3F0)解决方案

HP品牌机,开机启动不了,黑屏,开机取下主板电池恢复BIOS后,开机显示找不到启动盘。一、按F2键进入BIOS,出现硬盘内存检测界面的话,直接退出。就会出现这个界面,光标键向下,选择BIOSSetu...

电脑开机黑屏别慌!快码住!起底维修老师傅不能说的秘密

按下开机键却只收获黑屏大礼包?那些神秘的英文提示、刺耳的蜂鸣声,其实是电脑在给你发送求救信号!从按下电源到进入桌面的12秒里,你的电脑经历了史诗级的硬件自检与系统加载,今天我们就破译这段“摩斯电码”。...

电脑启动故障为何总要先看BIOS?新手必读的关键知识解析

最近在帮朋友们解答电脑无法正常开机的问题时,发现大家经常收到一句高频建议:“先检查BIOS”。对不少普通用户而言,BIOS依然是个神秘的存在。那么,BIOS到底是什么?电脑出现哪些故障会与它相关呢?本...

Windows 11 KB5053598更新:安全补丁还是系统噩梦?

2025年3月11日,微软发布了Windows1124H2的强制性更新KB5053598,作为“周二补丁日”(PatchTuesday)的一部分。然而,这款本应提升系统安全性的更新却引发了广泛的...

飞牛OS入门安装遇到问题,如何解决?

之前小编尝试了用旧电脑装飞牛OS安装之前特意查了一些硬件要求飞牛OS目前支持主流的x86架构硬件主机需能连网线飞牛OS暂时不支持只有无线网卡的安装貌似很多小伙伴在一开始安装就卡住了那今天咱们汇总分...

几种常见的电脑开机黑屏显示白色英文字母解决方法

当电脑开机出现黑屏并显示白色英文字母时,通常表示系统启动过程中遇到了错误。以下是几种常见原因及对应的解决方法,按照排查顺序整理:一、检查外接设备与硬件连接可能原因:外接U盘、移动硬盘等未拔出,或内部硬...

电脑启动出现问题,为什么都要先检查BIOS?

【ZOL中关村在线原创技巧应用】最近在回答问题的时候,总会发现很多朋友都在问“电脑无法正常开机怎么办?”这样类似的问题,而许多DIY大佬的回复总会出现一条高频建议“先检查BIOS”。但对于许多普通用户...

教你怎么用JavaScript检测当前浏览器是无头浏览器

什么是无头浏览器(headlessbrowser)?无头浏览器是指可以在图形界面情况下运行的浏览器。我可以通过编程来控制无头浏览器自动执行各种任务,比如做测试,给网页截屏等。为什么叫“无头”浏览器?...

12个高效的Python爬虫框架,你用过几个?

实现爬虫技术的编程环境有很多种,Java、Python、C++等都可以用来爬虫。但很多人选择Python来写爬虫,为什么呢?因为Python确实很适合做爬虫,丰富的第三方库十分强大,简单几行代码便可实...

运维的报表之路,用 node.js 轻松发送 grafana 报表

在运维过程中,无论是监控还是报表,都会有一些通过邮件发送图表的需求,由于开源的zabbix,grafana和kibana等并不完全具有“想发送哪儿就发送哪儿”的图片生成功能,在grafana...

C#基于浏览器内核的高级爬虫(c#爬取网页内容)

基于C#.NET+PhantomJS+Sellenium的高级网络爬虫程序。可执行Javascript代码、触发各类事件、操纵页面Dom结构、甚至可以移除不喜欢的CSS样式。很多网站都用Ajax动态加...

如何优化一个秒杀项目?(秒杀实现思路)

问题1:使用jmeter性能压测,定位瓶颈代码步骤流程:线程组--->Http请求--->查看结果树--->聚合报告tips:host的文件--->优先调用映射,减少DNS的时...