陈奇网络工作室

linux下如何快速拷贝大文件?

复制数据

远程复制数据时,我们一般使用rsync命令,但是如果复制大量的小文件,rsync的传输速度会比较慢。用tar pv lz4打包压缩传输可以解决这个问题。使用这种方法相当于使用scp和rsync传输大文件。

据实测,使用rsync传输1200G,单个文件大小为几十KB~2GB,需要6个rsync同时运行带宽,每个速度在20MB左右,速度波动较大。每分钟可以复制4.5GB左右。

不过用tar pv lz4,就跑一个,速度波动小。每分钟可以复制6.8GB左右。

Rsync用法示例

Rsync安装:yum install -y rsync

12345678910111213141516 # Push[root @ vm5 ~]# rsync-auvzp-e ' ssh-p22 ' mssh.tar.gz root @ 192 . 168 . 176 . 11:/data/发送增量文件列表mssh.tar.gz1,977 100% 0.00kB/s 0:00:00 (xfr#1,to-chk=0/1)发送2069字节接收接收增量文件listmsh . tar . gz 1,977 100% 1.89 MB/秒0:00:00 (xfr#1,to-chk=0/1)发送了43个字节接收了2,069个字节4,224.00个字节/段总大小为1,977加速比为0.94

参数auvzP说明:参数A是存档传输,保存文件属性,U是更新传输。如果源文件的修改时间相对较新,则会被传输。v表示详细过程,z表示压缩传输,p表示断点传输。

注意:rsync传输文件夹时,folder/带/是传输目录中的文件,不带/是传输文件夹。

使用压缩传输

安装pv和lz4工具

注意:应该安装服务器的两端。

Pv不在yum源中。可以在光伏官网找到。

12345678910#去光伏官网获取一个rpm包链接。直接rpm命令安装[root @ vm5 ~]# rpm-http://www.ivarch.com/programs/rpms/pv-1.6.6-1.x86_64.rpm IVH得到http://www.ivarch.com/programs/rpms/pv-1.6.6-1.x86_64.rpm警告:/Var/tmp/rpm-tmp . mfba 6 u:header V3 DSA/SHA1签名,Key ID 3fc56f51: NOKEY正在准备中…# # # # # # # # # # # # # # # # # # # # # # # #[100%]% u6b 63正在升级/安装中… 1: PV-1.6。

使用

123456789101112131415[root @ vm5 ~]# time tar-c go | PV | lz4-B4 | ssh-p22-c AES 128-CTR 192 . 168 . 176 . 11 ' lz4-d | tar-xC/data/使用大小为64 kb的块18.1 MIB 0:00:00[49.5 MIB/s][=]real0m 0.376 suser 0m

以上是本文的全部内容。希望对大家的学习有帮助,也希望大家多多支持边肖。

更多关于云服务器,域名注册,虚拟主机的问题,请访问西部数码代理官网:www.chenqinet.cn。

相关推荐

后台-系统设置-扩展变量-手机广告位-内容页底部广告位3