测试标题A

站点跑起来之后,备份这件事最容易停在「有个脚本、每天在跑」的阶段。我自己的第一版备份脚本很朴素:一个 tar -czf 打进 /backup,加一条 cron,然后三年没再看。直到有一次线上要恢复一个被误改的模板目录,我把 tar 解开发现里面是三个月前的版本——因为脚本里写的是 tar -czf backup.tar.gz /var/www,只覆盖不增量,但中间有次磁盘满导致写入失败,之后每次都在写一个残缺的包,而我从没检查过大小。

后来把备份链路整个换成 rsync 之后,问题少了很多,但也踩了新的坑。rsync 的参数看起来简单,真正决定它是「安全网」还是「定时炸弹」的,其实就是几条选项的组合语义。这篇把我在小站上用了两年多的那套写法完整拆开:目录镜像怎么做、--delete 到底有多危险、断点续传在什么情况下会给你一个坏文件、以及怎么验证一次同步是成功的。

先想清楚:你要的是镜像,还是归档

rsync 默认做的是「让目标长得像源」。它会把源里新增的文件复制到目标,把源里改过的文件在目标上覆盖,但对源里已经删掉的文件,目标上仍然保留——除非你加 --delete。

这就分出了两种完全不同的用法:

  • 镜像:目标是源的一份精确副本,源删了目标也删。适合「备份盘 / 备用机 / 静态资源同步」。这种用法必须加 --delete,否则目标会越来越臃肿,而且恢复时你会分不清哪些文件是还在用的。
  • 归档:目标只增不减,保留历史版本。这种绝不能用 --delete,配合 --backup --backup-dir 把被覆盖的旧文件挪到另一个目录里。

我踩过的第一个坑就是把这两种混用了:脚本里写了 --delete,同时又想「保留点历史」,于是加了个 --exclude 排除某个目录。结果有一次源端的 wp-content/uploads 因为挂载失败变成空目录,rsync 忠实地把目标上几百兆图片全删了。源是空的,不是源里没有——rsync 分不清这两者。

所以在用 --delete 之前,先加一道闸:源目录必须存在且非空,否则直接退出。这个判断要写在脚本最前面,一行都不能省:

#!/bin/bash
set -euo pipefail

SRC=/data/www
DST=/backup/www

# 闸门一:源目录必须存在
[ -d "$SRC" ] || { echo "源目录不存在,中止"; exit 1; }

# 闸门二:源目录不能是空的(挂载失败时通常是空的)
[ "$(find "$SRC" -maxdepth 1 -mindepth 1 | head -1)" ] || { echo "源目录为空,中止"; exit 1; }

# 闸门三:目标必须已经挂载好(防止写到根分区的同名目录上)
mountpoint -q /backup || { echo "备份盘未挂载,中止"; exit 1; }

第二道闸门尤其重要。磁盘挂载失败的时候,路径还在,只是变成了根分区上的一个空目录。如果没有这个判断,rsync 会以为源里真的什么都没有,然后把整个目标删干净。

尾部斜杠不是小事:src/ 和 src 是两个意思

这是 rsync 最著名的一个语义差异,也是我在帮别人看脚本时最常见的错误:

rsync -a /data/www/ /backup/www/     # 把 www 里面的内容同步到 /backup/www 下
rsync -a /data/www  /backup/www/     # 把 www 这个目录本身放到 /backup/www 下,结果是 /backup/www/www

两者只差一个斜杠,结果差一层目录。这个错误不会报错,只是默默地在你的备份盘上多出一层 www/www/www,等你半年后去恢复,才发现要找的东西埋在不知道哪一层里。

我的做法是:源和目标都带斜杠,并且写成变量,脚本里只出现变量名。这样不会有「哪一处漏了斜杠」这种问题。要复制整个目录本身(比如保留绝对路径结构)时,我会显式写注释说明意图,而不是靠少打一个斜杠来表达。

--delete 的三种变体,各自的代价

如果确实需要镜像,--delete 有三种模式,选择时要知道它们在防什么:

--delete             # 同步结束后删目标上多余的文件
--delete-during      # 边同步边删(更快,但出错时状态更乱)
--delete-delay       # 同步过程收集,结束后统一删(折中)

还有一个更温和的选项 --delete-excluded,它会把目标上「被 exclude 规则排除掉」的文件也一并删掉。默认情况下 exclude 的文件在目标上是被保留的,加了 --delete-excluded 就不保留了。这一条我基本不用,因为语义太绕,容易误删。

不管用哪种,上线前先跑一次 --dry-run 看它打算删什么。-n 或 --dry-run 只是不写盘,其他逻辑全都走一遍,输出里 deleting 开头的行就是它准备删的东西:

rsync -a --delete --dry-run --itemize-changes /data/www/ /backup/www/ | grep '^\*deleting'

我习惯把这个 dry-run 的结果写进日志,只在「删除条目数超过阈值」时才发告警。正常的每日同步删几个临时文件是常态,一次删掉几百个就说明源那边出了状况,值得看一眼。

断点续传:--partial 好用,--append 要小心

备份目录动辄几个 G,网络一断就要从头再来,所以我一开始就加了 --partial。它的作用是:传输中断时保留已传的部分文件,下次接着传(会重新校验已有部分)。这个选项基本没有副作用,可以常开。

但很多人会顺手再加上 --append,以为能提速。这里有两个问题:

  • --append 的判定依据是「目标上的文件比源短,就从目标的末尾接着追加」。它不校验已传部分的内容。如果文件在中断期间被改写过(比如日志文件、正在写入的数据库备份),追加出来的结果就是前半段旧、后半段新的缝合怪,文件大小对了,内容全错。
  • rsync 3.0.6 之后有个更安全的 --append-verify,它会先校验已有部分的校验和,不匹配就丢掉重传。这个可以用,但代价是每次都要读一遍已有的数据,对于大文件意味着双倍 I/O。

我的选择是:对「同步过程中不会变」的目录(静态资源、图片、代码)用 --partial 就够;对「可能正在写」的目录(数据库导出、日志归档),先在同一台机器上把文件写到临时名,写完再 mv 成正式名,然后才同步。这样源端的文件在同步瞬间是稳定的,断点续传也不会出问题。原则是:不要指望传输工具去处理源端还在变化的数据,那应该在产生数据的一侧解决。

校验和:-c 很对,但很贵

rsync 默认判断「这个文件要不要传」的依据是大小 + 修改时间。两者都相同就跳过,不读内容。这个默认很合理,因为读内容要成本。但它的后果是:如果文件内容变了、大小没变、mtime 又被改回原来(比如某些同步工具会保留 mtime),rsync 会认为它没变。

--checksum(-c)会强制对每个文件算校验和来比对,代价是要把源和目标的每一份文件都完整读一遍。对于几十万个文件的站点,这意味着每次同步都要把所有数据的 I/O 走一遍,磁盘本来就慢的机器会直接卡住。

我的用法是分层:

# 日常同步:靠 size + mtime,不读内容
rsync -a --delete --partial /data/www/ /backup/www/

# 每月一次:只对关键小目录做全量校验(数据库导出、配置文件、模板)
rsync -a -c --itemize-changes /data/config/ /backup/config/

# 恢复之后:抽样比对,确认恢复出来的就是想要的版本
rsync -a -c --dry-run --itemize-changes /data/www/wp-content/themes/ /backup/www/wp-content/themes/

第三条的用法值得展开。-c --dry-run --itemize-changes 组合起来的效果是:完整读一遍两边的内容、算出哪些文件不同、但什么都不写。这就是一个「校验报告」,输出为空说明两边完全一致。恢复后跑一次,比人工抽查几个文件靠谱得多。

排除规则:顺序、尾斜杠、以及那个只匹配当层的陷阱

排除规则的坑主要有三个:

第一,目录要带尾斜杠才会整体排除。 --exclude=cache 会排除所有名字叫 cache 的文件和目录,但如果写 --exclude=cache/,就只排除目录(含其中内容),不会误伤同名的文件。差别不大但语义更明确,我一律带斜杠。

第二,规则是从左到右顺序匹配的,而且有 + 和 - 之分。 rsync 的过滤规则支持 --filter 语法,其中 + 是包含、- 是排除,先匹配到的生效。所以「先排除全部,再包含某几个」这种写法是有效的,但反过来就无效:

# 正确:先排除所有临时文件,再显式保留 favicon.ico
--filter='- *.tmp'
--filter='+ favicon.ico'
--filter='- *'

# 错误:先 - * 会把所有东西都排掉,后面的 + 规则永远轮不到

第三,路径匹配是从传输根的相对路径开始的,不是绝对路径。 如果你同步 /data/www/,那 --exclude=/logs 会排除根下的 logs 目录,--exclude=logs 会排除任何层级的 logs。写具体一点总是更安全:

rsync -a --delete \
  --exclude=/cache/ \
  --exclude=/tmp/ \
  --exclude='*.log' \
  --exclude='*.tmp' \
  --exclude-from=/etc/backup-exclude.txt \
  /data/www/ /backup/www/

排除清单我单独放一个文件,一是方便查看,二是有些规则只对某几台机器生效,用 --exclude-from 可以按机器挂不同的清单。注意排除清单里不要写注释以外的空行之外的东西——空行没问题,行首的 # 是注释,但行中间出现空格会导致整条规则失效,而且 rsync 不会报错。

带宽与 I/O:别让备份把站点拖垮

在一个 1 核 1G 的小机器上,rsync 第一次全量同步能把整台机跑死。原因很简单:读源盘、算校验、压缩、写目标盘(或者经过网络),这些全在一台机器上抢同一份 I/O 和 CPU。

两个限制参数很有用。远程传输时 --bwlimit=2000(单位是 KB/s,即约 2MB/s)可以避免把出口带宽吃满导致访客访问变慢。本地同步时,--bwlimit 不管用,但可以用 ionice 把进程降到 idle 级,让它在磁盘空闲时才干活:

ionice -c3 nice -n19 rsync -a --delete /data/www/ /backup/www/

另一个容易忽略的是压缩。-z 对纯文本(HTML、CSS、JS、SQL 导出)效果明显,但对图片、视频几乎无效,反而白白消耗 CPU。对小机器来说,我的做法是:只在跨网络同步文本目录时开 -z;本地盘互拷一律不开;图片目录无论何时都不开。

退出码:23 和 24 不是失败

写监控的时候必须先知道这一点。rsync 的退出码里,0 是成功,但也有几个「部分成功」:

  • 23:部分文件因为权限或读写错误没传成,其他都传了。
  • 24:同步过程中源文件消失了(正在被删除或轮转,很常见于日志目录)。

很多脚本用 if [ $? -ne 0 ] 判断,于是每天半夜都告警一次,告警疲劳之后大家就开始忽略它了。正确做法是把 24 归为正常,23 记日志但按严重程度分级(只有连续出现才告警),其他非零码才是真失败:

rsync -a --delete --partial /data/www/ /backup/www/
rc=$?
case $rc in
  0)  echo "同步成功" ;;
  24) echo "部分源文件在同步中消失(正常,多为日志轮转)" ;;
  23) echo "部分文件传输失败,检查权限与磁盘空间" ; exit 0 ;;
  *)  echo "同步失败,退出码 $rc" ; exit 1 ;;
esac

怎么确认「这次的备份是对的」

这是整件事里最重要、却最常被跳过的一步。我的验证分三层,成本从低到高:

第一层:文件数与总大小。 同步完立刻数一遍两边的文件数和字节数,差值超过一定比例就记一条异常。

src_count=$(find /data/www -type f | wc -l)
dst_count=$(find /backup/www -type f | wc -l)
src_size=$(du -sb /data/www | cut -f1)
dst_size=$(du -sb /backup/www | cut -f1)
echo "源 $src_count 个文件 / $src_size 字节;目标 $dst_count 个文件 / $dst_size 字节"

注意 find | wc -l 在几十万文件时会慢,但它比「什么都不查」强太多。我把它放在同步之后的独立步骤里,不阻塞主流程。

第二层:随机抽样比对校验和。 从源里随机抽 20 个文件,比对两边 md5。这一步能抓到「大小时间都对但内容不同」的情况:

find /data/www -type f -name '*.php' | shuf -n 20 | while read -r f; do
  rel=${f#/data/www/}
  a=$(md5sum "$f" | cut -d' ' -f1)
  b=$(md5sum "/backup/www/$rel" 2>/dev/null | cut -d' ' -f1)
  [ "$a" = "$b" ] || echo "不一致: $rel"
done

第三层:真正的恢复演练。 每季度挑一个目录,真的恢复到临时位置,起一个本地服务访问一下。这一层无法自动化到「完全可信」,因为要判断「恢复出来的东西是不是能跑」,还是得人看一眼。但它抓到的问题最致命——比如恢复权限丢了导致 PHP 读不了、软链接变成了普通文件、隐藏文件没同步。这些都是 file count 和 md5 都查不出来的。

什么时候 rsync 不是好选择

两个场景我会避开 rsync:

第一,海量小文件。 rsync 需要为每个文件 stat 一次、比较一次、决定传不传。几十万个小文件(比如一个装满缓存碎片的目录)会让它卡在「building file list」阶段好几分钟,那些时间基本都花在 syscall 上。这种情况用 tar 打包成单个流更快:tar -C /data -cf - www | ssh host 'tar -C /backup -xf -'。代价是每次都是全量,没有增量。

第二,需要版本历史。 rsync 的镜像本质上是「只有最新版」。要做「能回到上周三的状态」,得上 restic 或者 borg 这类带快照的仓库工具,它们用内容去重存增量,空间效率和恢复粒度都比 rsync 好得多。我现在的主力备份是 restic,rsync 只负责两件事:把文件推送到备份机的暂存区,以及在备用机上维持一份实时镜像好快速切换。

一份可以直接用的完整脚本

把上面这些拼起来,就是我每天凌晨跑的那一份。它的设计目标是:出错时宁可停下也不误删,日志可读,退出码能被监控正确理解。

#!/bin/bash
# /usr/local/bin/sync-www.sh
set -uo pipefail

SRC=/data/www
DST=/backup/www
LOG=/var/log/sync-www.log
TS=$(date '+%F %T')

log() { echo "[$TS] $*" | tee -a "$LOG"; }

# ---- 闸门 ----
[ -d "$SRC" ] || { log "FATAL 源目录不存在"; exit 1; }
[ -n "$(find "$SRC" -maxdepth 1 -mindepth 1 -print -quit)" ] || { log "FATAL 源目录为空"; exit 1; }
mountpoint -q /backup || { log "FATAL /backup 未挂载"; exit 1; }

# ---- 预演,统计待删条目 ----
DEL=$(ionice -c3 rsync -a --delete --dry-run --itemize-changes \
        --exclude=/cache/ --exclude=/tmp/ --exclude='*.log' \
        "$SRC/" "$DST/" 2>&1 | grep -c '^\*deleting' || true)

if [ "$DEL" -gt 300 ]; then
  log "WARN 本次计划删除 $DEL 个条目,超过阈值,跳过同步,请人工确认"
  exit 2
fi

# ---- 正式同步 ----
ionice -c3 nice -n19 rsync -a --delete --partial --stats \
  --exclude=/cache/ --exclude=/tmp/ --exclude='*.log' \
  "$SRC/" "$DST/" >>"$LOG" 2>&1
rc=$?

case $rc in
  0)  log "OK 同步完成,预计删除 $DEL 条" ;;
  24) log "OK 同步完成(部分源文件已消失,正常)" ;;
  23) log "WARN 部分文件失败,查看上方日志" ;;
  *)  log "FATAL rsync 退出码 $rc"; exit 1 ;;
esac

# ---- 简单核对 ----
sc=$(find "$SRC" -type f 2>/dev/null | wc -l)
dc=$(find "$DST" -type f 2>/dev/null | wc -l)
log "核对:源 $sc 个文件,目标 $dc 个文件"
[ "$sc" -eq "$dc" ] || log "WARN 两边文件数不一致(排除规则可能导致差值,确认是否符合预期)"

配一条 cron 就够了,加锁防止上一轮没跑完就叠加:

30 3 * * * flock -n /var/lock/sync-www.lock /usr/local/bin/sync-www.sh

几条从踩坑里换来的结论

回到最开始的那个问题:为什么「有个脚本在跑」不等于「有备份」?因为备份的价值只在恢复那一刻体现,而恢复是唯一无法提前验证的动作。所有围绕 rsync 的参数选择,本质上都是在减少「恢复时才发现不对」的概率。

  • 带 --delete 的脚本必须有源目录非空校验,这是唯一能防住「挂载失败导致清空备份」的手段。
  • 尾斜杠的语义要一次记牢,并用变量写法消灭这类错误,而不是靠每次小心翼翼。
  • 不确定是否要开 -c 的时候,默认不开,把它留给「恢复之后校验」和「小目录月检」这两个场景。
  • 退出码 24 要当成成功处理,否则告警会失效。
  • 每季度做一次真实恢复,这比任何参数调整都重要。

最后一句实话:这套东西完善之后,我并没有因此省下多少时间——省下的是那些「好像哪里不对但说不上来」的焦虑。备份这个环节,做到心里有数就够了,剩下的精力应该花在站点本身。

Last modification:November 21st, 2026 at 12:29 pm

Leave a Comment