操作背景:最近手头有个系统,刚做完灾备建设及数据同步(文章链接在这 ),需要进行灾备切换演练,验证灾备库建设是否符合预期。需要做相关测试并准备操作手册,供日后切换演练及主备切换使用。
环境准备:需要分别部署一主一备两套tidb集群,并搭建TiDB Binlog用于主备集群间数据同步,可以参考前一篇文章:基于TiDB Binlog架构的主备集群部署及数据同步操作手册
环境准备完成后,就可以开始主备切换操作了。
具体操作过程
1、停业务,待drainer追平主、备库数据
停止业务程序,确认业务不再有数据库写入操作。之后查询Drainer status 接口,如果返回 "Synced": true 表示主从同步完成。
curl 'http://10.3.65.141:8249/status'
{"PumpPos":{"10.3.65.141:8250":440717746593595393},"Synced":true,"LastTS":440717747379765249,"TsMap":""}
2、使用sync-diff-inspector校验主从库数据是否一致
编辑配置文件:
[tidb@localhost tidb-community-toolkit-v6.5.1-linux-arm64]$ vim sync.toml
######################### Global config #########################
check-thread-count = 4
export-fix-sql = true
check-struct-only = false
######################### Datasource config #########################
[data-sources]
[data-sources.tidb1]
host = "10.3.65.141"
port = 4000
user = "root"
password = ""
[data-sources.tidb2]
host = "10.3.65.142"
port = 4000
user = "root"
password = ""
######################### Task config #########################
[task]
output-dir = "./output"
source-instances = ["tidb1"]
target-instance = "tidb2"
target-check-tables = ["test.t1","test.t2","test.t3"]
运行sync-diff,校验上下游数据是否一致:
[tidb@localhost tidb-community-toolkit-v6.5.1-linux-arm64]$ ./sync_diff_inspector --config=sync.toml
3、关停主库到灾备库drainer同步链路后记录当前drainer同步TSO
[tidb@localhost ~]$ tiup cluster stop tidb-1 -R drainer
MySQL [(none)]> select * from tidb_binlog.checkpoint;
4、使用dumpling/BR对灾备库进行数据全量备份(备份期间可继续进行下一步操作)
./dumpling -u root -P 4000 -h 127.0.0.1 \
--filetype sql \
-t 8 \
-o $dumpdir \
./br backup full \
--pd "127.0.0.1:2379" \
--storage "local://$/brbackup" \
--ratelimit 128 \
--log-file backupfull.log
5、启动应用并将访问入口切换为灾备集群负载均衡设备
将业务连接的负载均衡后端地址设置为灾备集群 TiDB 地址
6、搭建灾备库-->主库的数据同步链路
6.1 编辑搭建从灾备机房到主机房的复制链路所需拓扑文件
[tidb@cips1 ~]$ vim scale-out-drainer_bak.yaml
drainer_servers:
- host: 10.3.65.142
port: 28249
deploy_dir: /tidb-deploy/drainer-28249
data_dir: /tidb-data/drainer-28249
config:
initial-commit-ts: 440739573139243009(查询上游checkpoint表tso)
syncer.db-type: "tidb"
syncer.to.host: "10.3.65.141"
syncer.to.user: "drainer"
syncer.to.password: "XXX"
syncer.to.port: 4000
6.2 扩容灾备库到主库的drainer同步链路
[tidb@cips1 ~]$ tiup cluster scale-out cips ./scale-out-drainer_bak.yaml --user tidb -p
7、切换完成,进行简单验证
登录灾备库grafana页面,查看QPS、connection count等指标,是否符合预期,相关日志是否正常输出。
注意事项
整个切换过程并不是特别复杂,但需要注意以下几点:
1、查看drainer同步TSO时,不只是通过tidb_binlog.checkpoint表查看,还可以查看drainer日志中write save point对应的TS:["write save point"] [ts=440739573139243009]或登录数据库,执行show master status;
,查看Position列对应的TSO:
2、将灾备库数据全量备份,并不是必做选项,只是考虑到如果主库已经故障,业务切换到灾备库的情况下,将数据全量备份以防出现灾备库也故障等极端情况。实际操作过程中,可根据实际情况决定是否需要全量备份。
3、搭建灾备-->主的drainer同步链路时,需注意initial-commit-ts参数只可在新建的时候指定,如果该参数设置有误或需要调整,只能重新部署。
总结与思考:
灾备切换需要注意的有两点:
1)确保切换前主备数据一致,业务切换到灾备库后,可正常运行。
2)业务切换至灾备库后,增量数据可以在主库恢复后,正常同步至主库,不会有数据丢失。
后续业务回切至主库的操作步骤,与业务切换至备库操作过程一致,按步骤依次进行操作即可。