百度360必应搜狗淘宝本站头条
python判断字典是否为空crontab每周一执行aes和des区别安装指定版本npmadb pull
当前位置：网站首页 > IT知识 > 正文

curl经典使用场景。高端的命令只需要简单的操作，网络访问利器

liuian 2024-12-04 13:46 23 浏览

命令简介

curl是一个广为使用的命令，可以帮助用户将数据传送或从一个远程服务器。 它支持许多协议包括HTTP, HTTPS, FTP, FTPS, SCP, SFTP, TFTP, DICT, TELNET, LDAP,以及 FILE。

curl提供了很多特性，包括文件断点续传，支持代理，FTP上传，用户认证，POST方法，带宽限制，等等。curl的底层采用libcurl 库。

在新版的Linux 中，curl已经内嵌安装，不需要额外安装。如果运行时候发现提示命令不存在，可以用系统自带的管理工具安装。
CentOS, RHEL, Fedora等系统的安装命令：

sudo dnf install curl

Ubuntu， Debian等系统的安装命令：

sudo apt install curl

实例

curl命令格式：

$ curl [option] url

1 显示url的内容

可以使用curl查看URL对应的页面源码。
示例：

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl http://www.baidu.com
<!DOCTYPE html>
<!--STATUS OK--><html> <head><meta http-equiv=content-type content=text/html;charset=utf-8><meta http-equiv=X-UA-Compatible content=IE=Edge><meta content=always name=referrer><link rel=stylesheet type=text/css href=http://s1.bdstatic.com/r/www/cache/bdorz/baidu.min.css>...</html>

2 只接收header

通过参数-I 或者 --head，让curl只获取header信息。
示例：

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -I http://www.baidu.com
HTTP/1.1 200 OK
Accept-Ranges: bytes
Cache-Control: private, no-cache, no-store, proxy-revalidate, no-transform
Connection: keep-alive
Content-Length: 277
Content-Type: text/html
Date: Tue, 29 Nov 2022 03:21:15 GMT
Etag: "575e1f59-115"
Last-Modified: Mon, 13 Jun 2016 02:50:01 GMT
Pragma: no-cache
Server: bfe/1.0.8.18

3 下载内容并保存到文件

curl通过参数-o 或者 --output 来保存内容。用户需要指定文件名称。
命令格式：

curl -o filename URL
或者
curl --output filename URL

示例：

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -o baidu www.baidu.com
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  2381  100  2381    0     0  12801      0 --:--:-- --:--:-- --:--:-- 12732
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ ls
baidu

如上例，curl会展示下载过程中的数据，例如，传输速度，文件大小，耗时等。

4 通过curl下载文件

如果url代表的是一个文件，可以通过-o 或者 --output保存文件。

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -o baidu.png https://b.bdstatic.com/searchbox/icms/searchbox/img/cheng_girl.png
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  9337  100  9337    0     0  21172      0 --:--:-- --:--:-- --:--:-- 21172
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ ll
total 16
-rw-r--r-- 1 yunzhong yunzhong 9337 Nov 29 12:19 baidu.png

5 下载文件并保存为URL相同名字

上面的例子，我们用-o 或者 --output指定下载文件的名称。为了简化操作，我们可以使用参数-O 或者 --remote-name， 用URL中的文件名作为下载的文件名。

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -O  https://b.bdstatic.com/searchbox/icms/searchbox/img/cheng_girl.png
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  9337  100  9337    0     0  23459      0 --:--:-- --:--:-- --:--:-- 23401
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ ll
total 28
-rw-r--r-- 1 yunzhong yunzhong 9337 Nov 29 12:23 cheng_girl.png

6 同时下载多个文件

curl支持同时下载多个文件，每个文件设置参数-o 或者 -O
命令格式：

$ curl -O url1 -O url2

示例：

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -O  https://b.bdstatic.com/searchbox/icms/searchbox/img/cheng_girl.png -O https://b.bdstatic.com/searchbox/icms/searchbox/img/young_boy.png
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  9337  100  9337    0     0  22498      0 --:--:-- --:--:-- --:--:-- 22498
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  7730  100  7730    0     0  75048      0 --:--:-- --:--:-- --:--:-- 75048
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ ll
total 36
-rw-r--r-- 1 yunzhong yunzhong 9337 Nov 29 21:51 cheng_girl.png
-rw-r--r-- 1 yunzhong yunzhong 7730 Nov 29 21:51 young_boy.png

7 恢复下载

如果一个下载终止或者被打断，可以使用-C 或者 --continue-at参数 恢复下载。当设置了参数，curl命令将会找出断点位置并重新执行。
示例：


yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -C - -O https://releases.ubuntu.com/22.04.1/ubuntu-22.04.1-desktop-amd64.iso
** Resuming transfer from byte position 311296
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
  0 3649M    0  240k    0     0  54649      0 19:26:59  0:00:04 19:26:55 54637^C

8 使用curl跟随重定向

默认情况下，curl并不会跟踪重定向。如果目标页被移动到另外一个地址，我们可以通过-L 或者 --location参数来跟踪。
首先明确下，怎么知道是重定向。http标准状态码可以明确告知，下面是状态码的基本列表：

编码

子编码

意义

100+


代表请求已被接受，需要继续处理。

200+


请求已成功被服务器接收、理解、并接受。

300+


重定向

400+


请求错误


403

服务器已经理解请求，但是拒绝执行。


404

请求失败，服务器没有对应的资源。

500+


服务器内部出现错误。




因此，如果服务器返回的状态码为300+，则说明进行了重定向。

示例：
我们以必应为例，当访问www.bing.com时，会自动重定向到www.cn.bing.com。因此直接使用curl并不能获得结果，添加-L参数后才能获得页面信息。

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl www.bing.com
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -L www.bing.com
<!doctype html><html lang="zh" dir="ltr"><head>...

9 curl的静默模式

curl可以使用参数-s 或者 --silent 隐藏参数信息或者错误信息。

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -O https://b.bdstatic.com/searchbox/icms/searchbox/img/young_girl.png
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  8647  100  8647    0     0  37271      0 --:--:-- --:--:-- --:--:-- 37271
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -O -s https://b.bdstatic.com/searchbox/icms/searchbox/img/young_girl.png
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$

10 查看请求返回码

配合grep，可以过滤出请求结果的状态码。
命令格式：

$ curl -IsL URL | grep HTTP

如果想单纯的获得状态码，可以配合awk命令。

$ curl -IsL URL  | grep HTTP | awk '{print $2}'

示例：

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -IsL www.baidu.com | grep HTTP
HTTP/1.1 200 OK
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl -IsL www.baidu.com | grep HTTP | awk '{print $2}'
200

11 设置最大传输速率

--limit-rate参数可以设定最大传输速率。如果未设置后缀，则参数值的单位是bytes/second 。可用的后缀为k，m，g。
示例：
Average Dload可以看出，速度限制生效。也可以看出，我的网速有多么慢。

yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl --limit-rate 2 -O https://releases.ubuntu.com/22.04.1/ubuntu-22.04.1-desktop-amd64.iso
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
  0 3649M    0 16384    0     0   1352      0  32d 18h  0:00:12  32d 18h     0^C
yunzhong@DESKTOP-9VB7LN7:/tmp/curltest$ curl --limit-rate 2k -O https://releases.ubuntu.com/22.04.1/ubuntu-22.04.1-desktop-amd64.iso
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
  0 3649M    0 49152    0     0   2890      0  15d 07h  0:00:17  15d 07h  3278^

12 从有认证的FTP服务器下载文件

curl命令可以使用-u 或者 --user 参数设置访问服务器的用户名密码。
命令格式：

$ curl -u FTP_USERNAME:FTP_PASSWORD ftp://ftp.example.com/file.txt
或者
$ curl --user FTP_USERNAME:FTP_PASSWORD ftp://ftp.example.com/file.txt

13 上传文件到ftp服务器

可以使用-T 或者 --upload-file 参数指定上传ftp服务器的文件。一般的服务器都需要认证，因此可以与-u 或者 --user参数一起使用，指定认证信息。
命令格式：

$ curl -T filename -u FTP_USERNAME:FTP_PASSWORD ftp://ftp.example.com/file.txt
或者
$ curl --upload-file filename -u FTP_USERNAME:FTP_PASSWORD ftp://ftp.example.com/file.txt

14 使用curl发送POST请求

使用参数-d 或者 --data，可以为POST请求设定数据。默认情况下，采用表单（form）的形式发送数据，因此数据必须是key=value形式，且多个key之间采用&分割。
示例：

$ curl -d "fname=John&lname=Doe" https://www.example.com/post
或者
$ curl --data "fname=John&lname=Doe" https://www.example.com/post

其实，很多时候，我们都采用了json数据格式，而并非是form表单形式。
可以使用如下命令：

curl -H "Content-Type: application/json" -X POST -d '{"json":"value", "jsonKey": "value2"}' https://www.example.com/post

其中，-H命令设定了请求header参数。
-X参数，设定了请求的http方法。
-d参数，设定了请求的发送数据。

和POST类似，可以使用-x和-d命令，实现http其他方法的支持，例如PUT等。

15 指定proxy

可以使用参数-x 或者 --proxy 指定代理，如果未设定端口则默认使用1080端口。
命令格式：

$ curl -x proxy_host:port url
或者
$ curl --proxy proxy_host:port url

16 为proxy指定用户名密码

如果proxy服务需要认证信息，我们可以使用参数-U 或者 --proxy-user 传递用户名密码信息。
命令格式：

$ curl -U username:password -x proxy_host:port url
或者
$ curl --proxy-user username:password -x proxy_host:port url

17 DICT协议支持

curl 支持DICT（dictionary network protocol）协议，对于发现名词定义有很好的帮助。
不需要额外参数，可以直接调用。

$ curl dict://dict.org/d:machine

相关推荐

MySQL合集-mysql5.7及mysql8的一些特性

1、Json支持及虚拟列1.1jsonJson在5.7.8原生支持，在8.0引入了json字段的部分更新（jsonpartialupdate）以及两个聚合函数，JSON_OBJECTAGG，JS...

MySQL 双表架构在房产中介房源管理中的深度实践

MySQL房源与价格双表封神：降价提醒实时推送客户房产中介实战：MySQL空间函数精准定位学区房MySQL狠招：JSON字段实现房源标签自由组合筛选房源信息与价格变更联动：MySQL黄金搭档解决客户看...

MySQL 5.7 JSON 数据类型使用总结

从MySQL5.7.8开始，MySQL支持原生的JSON数据类型。MySQL支持RFC7159定义的全部json数据类型，具体的包含四种基本类型（strings,numbers,boolea...

MySQL 8.0 SQL优化黑科技，面试官都不一定知道!

前言提到SQL优化，大多数人想到的还是那些经典套路：建索引、避免全表扫描、优化JOIN顺序…这些确实是基础，但如果你还停留在MySQL5.7时代的优化思维，那就out了。MySQL8.0已经发布好...

如何在 MySQL 中使用 JSON 数据（mysql的json函数与实例）

在MySQL中学习“NoSQL”MySQL从5.7版本开始就支持JSON格式的数据类型，该数据类型支持JSON文档的自动验证和优化存储和访问。尽管JSON数据最好存储在MongoDB等...

MySQL中JSON的存储原理（mysql中json字段操作）

前言：表中有json字段后，非索引查询性能变得非常糟糕起因是我有一张表，里面有json字段后，而当mysql表中有200w数据的时候，走非索引查询性能变得非常糟糕需要3到5s。因此对mysql的jso...

mysql 之json字段详解(多层复杂检索)

MySQL5.7.8开始支持JSON数据类型。MySQL8.0版本中增加了对JSON类型的索引支持。示例表CREATETABLE`users`(`id`intNOTNULLAU...

VMware vCenter Server 8.0U3b 发布下载，新增功能概览

VMwarevCenterServer8.0U3b发布下载，新增功能概览ServerManagementSoftware|vCenter请访问原文链接：https://sysin.or...

Spring Boot 3.x 新特性详解:从基础到高级实战

1.SpringBoot3.x简介与核心特性1.1SpringBoot3.x新特性概览SpringBoot3.x是建立在SpringFramework6.0基础上的重大版...

如何设计Agent的记忆系统（agent记忆方法）

最近看了一张画Agent记忆分类的图我觉得分类分的还可以，但是太浅了，于是就着它的逻辑，仔细得写了一下在不同的记忆层，该如何设计和选型先从流程，作用，实力和持续时间的这4个维度来解释一下这几种记忆：1...

Spring Boot整合MyBatis全面指南:从基础到高级应用(全网最全)

一、基础概念与配置1.1SpringBoot与MyBatis简介技术描述优点SpringBoot简化Spring应用开发的框架，提供自动配置、快速启动等特性快速开发、内嵌服务器、自动配置、无需X...

5大主流方案对比:MySQL千亿级数据线上平滑扩容实战

一、扩容方案剖析1、扩容问题在项目初期，我们部署了三个数据库A、B、C，此时数据库的规模可以满足我们的业务需求。为了将数据做到平均分配，我们在Service服务层使用uid%3进行取模分片，从而将数据...

PostgreSQL 技术内幕(五)Greenplum-Interconnect模块

Greenplum是在开源PostgreSQL的基础上，采用MPP架构的关系型分布式数据库。Greenplum被业界认为是最快最具性价比的数据库，具有强大的大规模数据分析任务处理能力。Greenplu...

在实际操作过程中如何避免出现SQL注入漏洞

一前言本文将针对开发过程中依旧经常出现的SQL编码缺陷，讲解其背后原理及形成原因。并以几个常见漏洞存在形式，提醒技术同学注意相关问题。最后会根据原理，提供解决或缓解方案。二SQL注入漏洞的原理、形...

运维从头到尾安装日志服务器，看这一篇就够了

一、rsyslog部署1.1）rsyslog介绍Linux的日志记录了用户在系统上一切操作，看日志去分析系统的状态是运维人员必须掌握的基本功。rsyslog日志服务器的优势：1、日志统一，集中式管理...

一周热门
最近发表
标签列表