再议Linux上传下载工具curl的使用

发布时间:2018-01-20 22:59:51编辑:丝画阁阅读(271)

在目前的CentOS最小化安装发行版中,系统默认的下载/上传工具为:curl。curl支持包括HTTP、HTTPS、ftp等众多协议,还支持POST、cookies、认证、从指定偏移处下载部分文件、用户代理字符串、限速、文件大小、进度条等特征。我们先来大概看一下curl工具的各选项的大概含义。

-a/–append 上传文件时,附加到目标文件
-A/–user-agent 设置用户代理发送给服务器
-anyauth 可以使用“任何”身份验证方法
-b/–cookie cookie字符串或文件读取位置
–basic 使用HTTP基本验证
-B/–use-ascii 使用ASCII /文本传输
-c/–cookie-jar 操作结束后把cookie写入到这个文件中
-C/–continue-at 断点续转
-d/–data HTTP POST方式传送数据
–data-ascii 以ascii的方式post数据
–data-binary 以二进制的方式post数据
–negotiate 使用HTTP身份验证
–digest 使用数字身份验证
–disable-eprt 禁止使用EPRT或LPRT
–disable-epsv 禁止使用EPSV
-D/–file-header 把header信息写入到该文件中
–egd-file 为随机数据(SSL)设置EGD socket路径
–tcp-nodelay 使用TCP_NODELAY选项
-e/–referer 来源网址
-E/–cert 客户端证书文件和密码 (SSL)
–cert-typ 证书文件类型 (DER/PEM/ENG) (SSL)
–key 私钥文件名 (SSL)
–key-type 私钥文件类型 (DER/PEM/ENG) (SSL)
–pass 私钥密码 (SSL)
–engine 加密引擎使用 (SSL). “–engine list” for list
–cacert CA证书 (SSL)
–capath CA目录 (made using c_rehash) to verify peer against (SSL)
–ciphers SSL密码
–compressed 要求返回是压缩的形势 (using deflate or gzip
–connect-timeout 设置最大请求时间
–create-dirs 建立本地目录的目录层次结构
–crlf 上传是把LF转变成CRLF
-f/–fail 连接失败时不显示http错误
–ftp-create-dirs 如果远程目录不存在,创建远程目录
–ftp-method [multicwd/nocwd/singlecwd] 控制CWD的使用
–ftp-pasv 使用 PASV/EPSV 代替端口
–ftp-skip-pasv-ip 使用PASV的时候,忽略该IP地址
–ftp-ssl 尝试用 SSL/TLS 来进行ftp数据传输
–ftp-ssl-reqd 要求用 SSL/TLS 来进行ftp数据传输
-F/–form 模拟http表单提交数据
–form-string 模拟http表单提交数据
-g/–globoff 禁用网址序列和范围使用{}和[]
-G/–get 以get的方式来发送数据
-H/–header 自定义头信息传递给服务器
–ignore-content-length 忽略的HTTP头信息的长度
-i/–include 输出时包括protocol头信息
-I/–head 只显示请求头信息
-j/–junk-session-cookies 读取文件进忽略session cookie
–interface 使用指定网络接口/地址
–krb4 使用指定安全级别的krb4
-k/–insecure 允许不使用证书到SSL站点
-K/–config 指定的配置文件读取
-l/–list-only 列出ftp目录下的文件名称
–limit-rate 设置传输速度
–local-port 强制使用本地端口号
-m/–max-time 设置最大传输时间
–max-redirs 设置最大读取的目录数
–max-filesize 设置最大下载的文件总量
-M/–manual 显示全手动
-n/–netrc 从netrc文件中读取用户名和密码
–netrc-optional 使用 .netrc 或者 URL来覆盖-n
–ntlm 使用 HTTP NTLM 身份验证
-N/–no-buffer 禁用缓冲输出
-o/–output 把输出写到该文件中
-O/–remote-name 把输出写到该文件中,保留远程文件的文件名
-p/–proxytunnel 使用HTTP代理
–proxy-anyauth 选择任一代理身份验证方法
–proxy-basic 在代理上使用基本身份验证
–proxy-digest 在代理上使用数字身份验证
–proxy-ntlm 在代理上使用ntlm身份验证
-P/–ftp-port 使用端口地址,而不是使用PASV
-q 作为第一个参数,关闭 .curlrc
-Q/–quote 文件传输前,发送命令到服务器
-r/–range 检索来自HTTP/1.1或FTP服务器字节范围
–range-file 读取(SSL)的随机文件
-R/–remote-time 在本地生成文件时,保留远程文件时间
–retry 传输出现问题时,重试的次数
–retry-delay 传输出现问题时,设置重试间隔时间
–retry-max-time 传输出现问题时,设置最大重试时间
-s/–silent 静默模式。不输出任何东西
-S/–show-error 显示错误
–socks4 用socks4代理给定主机和端口
–socks5 用socks5代理给定主机和端口
–stderr
-t/–telnet-option Telnet选项设置
–trace 对指定文件进行debug
–trace-ascii Like –跟踪但没有hex输出
–trace-time 跟踪/详细输出时,添加时间戳
-T/–upload-file 上传文件
–url Spet URL to work with
-u/–user 设置服务器的用户和密码
-U/–proxy-user 设置代理用户名和密码
-write-out [format] 什么输出完成后
-x/–proxy 在给定的端口上使用HTTP代理
-X/–request 指定什么命令
-y/–speed-time 放弃限速所要的时间,默认为30
-Y/–speed-limit 停止传输速度的限制,速度时间

1.断点续传。

通过使用-C选项可对大文件使用断点续传功能,该选项类似于wget的-c。在此之前我在使用curl命令是可能出现过将C写为c的情况,虽然也能正常下载,但是这种做法是有问题的,疏漏之处万望海涵!一般情况下,这个选项与-O或-o搭配使用的较多。我们先以搭配-O来举例。

[root@Geeklp-curl ~]# curl -# -C - -O https://cdn.mysql.com//Downloads/MySQL-5.7/mysql-5.7.21-1.el7.x86_64.rpm-bundle.tar ####### 10.0%^C[root@Geeklp-curl ~]# curl -# -C - -O https://cdn.mysql.com//Downloads/MySQL-5.7/mysql-5.7.21-1.el7.x86_64.rpm-bundle.tar ####### 10.4%^C[root@Geeklp-curl ~]# curl -# -C - -O https://cdn.mysql.com//Downloads/MySQL-5.7/mysql-5.7.21-1.el7.x86_64.rpm-bundle.tar ####### 123456

在上面的例子中,为了能够更直观地显示下载进度,我加入了显示进度条选项”-#”,这个选项的位置不能随便安排,有一定的顺序性。也可以使用–progress来显示进度条。


2.下载单个文件,默认将输出打印到标准输出中(STDOUT)中。

通过-o/-O选项保存下载的文件到指定的文件中:

-o:将文件保存为命令行中指定的文件名的文件中;

-O:使用URL中默认的文件名保存文件到本地。

选项-O我们在上面的例子中已经可以直观地看到其作用了,接下来我们看一下选项-o。

将文件保存到本地并命名为mysql.tgz.

[root@Geeklp-curl ~]# curl https://cdn.mysql.com//Downloads/MySQL-5.7/mysql-5.7.21-1.el7.x86_64.rpm-bundle.tar -o mysql.tgz % Total % Received % Xferd Average Speed Time Time Time Current Dload Upload Total Spent Left Speed 0 566M 0 3260k 0 0 1474k 0 0:06:33 0:00:02 0:06:31 1473k^C[root@Geeklp-curl ~]# curl -o mysql.tgz https://cdn.mysql.com//Downloads/MySQL-5.7/mysql-5.7.21-1.el7.x86_64.rpm-bundle.tar % Total % Received % Xferd Average Speed Time Time Time Current Dload Upload Total Spent Left Speed 3 566M 3 21.3M 0 0 4485k 0 0:02:09 0:00:04 0:02:05 448512345678

同样可以使用转向字符”>”对输出进行转向输出。

[root@Geeklp-curl ~]# curl https://cdn.mysql.com//Downloads/MySQL-5.7/mysql-5.7.21-1.el7.x86_64.rpm-bundle.tar>mysql.tgzr % Total % Received % Xferd Average Speed Time Time Time Current Dload Upload Total Spent Left Speed 0 566M 0 4652k 0 0 1648k 0 0:05:51 0:00:02 0:05:49 1648k^C[root@Geeklp-curl ~]# lsmysql-5.7.21-1.el7.x86_64.rpm-bundle.tar mysql.tgz mysql.tgzr[root@Geeklp-curl ~]# file mysql.tgzrmysql.tgzr: POSIX tar archive (GNU)12345678

3.同时获取多个文件

curl -O URL1 -O URL2

若同时从同一站点下载多个文件时,curl会尝试重用链接(connection)。


4.从FTP服务器下载文件

CURL同样支持FTP下载,若在url中指定的是某个文件路径而非具体的某个要下载的文件名,CURL则会列出该目录下的所有文件名而并非下载该目录下的所有文件。

列出ftp://mirrors.shu.edu.cn/centos/下的所有文件夹和文件

[root@Geeklp-curl ~]# curl ftp://mirrors.shu.edu.cn/centos/1

如果需要用户名和密码则命令如下格式:

curl -u ftpuser:ftppass -O ftp://ftp_server/index

下载ftp服务器上的内容跟一般的下载没什么区别。需要用户名密码则参考上面的命令格式。


5.将指定的本地文件上传到FTP服务器上。

通过 -T 选项可将指定的本地文件上传到FTP服务器上。

将myfile.txt文件上传到服务器:

curl -u ftpuser:ftppass -T myfile.txt ftp://ftp.ftpserver.com

同时上传多个文件:

curl -u ftpuser:ftppass -T “{file1,file2}” ftp://ftp.ftpserver.com


6.通过字典查询单词。

查询conduct单词的含义:

curl dict://dict.org/d:conduct

列出所有可用词典:

curl dict://dict.org/show:db

在foldoc词典中查询conduct单词的含义

curl dict://dict.org/d:conduct:foldoc


7.查看与当前ip地址相关的信息。

[root@Geeklp-curl ~]# curl ipinfo.io{ "ip": "39.129.0.94", "city": "", "region": "", "country": "CN", "loc": "34.7725,113.7266", "org": "AS9808 China Mobile Communications Corporation" }

关键字