您好,登錄后才能下訂單哦!
下面一起來了解下Mysql 與 xtrabackup如何實現備份與恢復,相信大家看完肯定會受益匪淺,文字在精不在多,希望Mysql 與 xtrabackup如何實現備份與恢復這篇短內容是你想要的。
Mysql 備份恢復與 xtrabackup備份
1.1 備份的原因
備份是數據安全的最后一道防線,對于任何數據丟失的場景,備份雖然不一定能恢復百分之百的數據(取決于備份周期),但至少能將損失降到最低。衡量備份恢復有兩個重要的指標:恢復點目標(RPO)和恢復時間目標(RTO),前者重點關注能恢復到什么程度,而后者則重點關注恢復需要多長時間。
1.1.1 備份的目錄
做災難恢復:對損壞的數據進行恢復和還原
需求改變:因需求改變而需要把數據還原到改變以前
測試:測試新功能是否可用
1.1.2 備份中需要考慮的問題
可以容忍丟失多長時間的數據;
恢復數據要在多長時間內完;
恢復的時候是否需要持續提供服務;
恢復的對象,是整個庫,多個表,還是單個庫,單個表。
1.1.3 備份的類型
熱備份:
這些動態備份在讀取或修改數據的過程中進行,很少中斷或者不中斷傳輸或處理數據的功能。使用熱備份時,系統仍可供讀取和修改數據的操作訪問。
冷備份:
這些備份在用戶不能訪問數據時進行,因此無法讀取或修改數據。這些脫機備份會阻止執行任何使用數據的活動。這些類型的備份不會干擾正常運行的系統的性能。但是,對于某些應用程序,會無法接受必須在一段較長的時間里鎖定或完全阻止用戶訪問數據。
溫備份:
這些備份在讀取數據時進行,但在多數情況下,在進行備份時不能修改數據本身。這種中途備份類型的優點是不必完全鎖定最終用戶。但是,其不足之處在于無法在進行備份時修改數據集,這可能使這種類型的備份不適用于某些應用程序。在備份過程中無法修改數據可能產生性能問題。
1.2 備份的方式
1.2.1 冷備份
最簡單的備份方式就是,關閉MySQL云服務器,然后將data目錄下面的所有文件進行拷貝保存,需要恢復時,則將目錄拷貝到需要恢復的機器即可。這種方式確實方便,但是在生產環境中基本沒什么作用。因為所有的機器都是要提供服務的,即使是Slave有時候也需要提供只讀服務,所以關閉MySQL停服備份是不現實的。與冷備份相對應的一個概念是熱備份,所謂熱備份是在不影響MySQL對外服務的情況下,進行備份。
冷備份及停止業務進行備份。
1.2.2 快照備份
首先要介紹的熱備份是快照備份,快照備份是指通過文件系統支持的快照功能對數據庫進行備份。備份的原理是將所有的數據庫文件放在同一分區中,然后對該分區執行快照工作,對于Linux而言,需要通過LVM(Logical Volumn Manager)來實現。LVM使用寫時復制(copy-on-write)技術來創建快照,例如,對整個卷的某個瞬間的邏輯副本,類似于數據庫中的innodb存儲引擎的MVCC,只不過LVM的快照在文件系統層面,而MVCC在數據庫層面,而且僅支持innodb存儲引擎。
LVM有一個快照預留區域,如果原始卷數據有變化時,LVM保證在任何變更寫入之前,會復制受影響塊到快照預留區域。簡單來說,快照區域內保留了快照點開始時的一致的所有old數據。對于更新很少的數據庫,快照也會非常小。
對于MySQL而言,為了使用快照備份,需要將數據文件,日志文件都放在一個邏輯卷中,然后對該卷快照備份即可。由于快照備份,只能本地,因此,如果本地的磁盤損壞,則快照也就損壞了。快照備份更偏向于對誤操作防范,可以將數據庫迅速恢復到快照產生的時間點,然后結合二進制日志可以恢復到指定的時間點。基本原理如下圖:
1.2.3 邏輯備份(文本表示:SQL 語句)
冷備份和快照備份由于其弊端在生產環境中很少使用,使用更多是MySQL自帶的邏輯備份和物理備份工具,這節主要講邏輯備份,MySQL官方提供了Mysqldump邏輯備份工具,雖然已經足夠好,但存在單線程備份慢的問題。在社區提供了更優秀的邏輯備份工具mydumper,它的優勢主要體現在多線程備份,備份速度更快。
1.2.4 其他常用的備份方式
物理備份(數據文件的二進制副本)
全量備份概念
全量數據就是數據庫中所有的數據(或某一個庫的全部數據);
全量備份就是把數據庫中所有的數據進行備份。
mysqldump會取得一個時刻的一致性數據.
增量備份(刷新二進制日志)
增量數據就是指上一次全量備份數據之后到下一次全備之前數據庫所更新的數據
對于mysqldump,binlog就是增量數據.
1.2.5 備份工具的介紹
1、mysqldump: mysql原生自帶很好用的邏輯備份工具
2、mysqlbinlog: 實現binlog備份的原生態命令
3、xtrabackup: precona公司開發的性能很高的物理備份工具
1.3 mysqldump備份介紹
備份的基本流程如下:
1.調用FTWRL(flush tables with read lock),全局禁止讀寫 2.開啟快照讀,獲取此時的快照(僅對innodb表起作用) 3.備份非innodb表數據(*.frm,*.myi,*.myd等) 4.非innodb表備份完畢后,釋放FTWRL鎖 5.逐一備份innodb表數據 6.備份完成。
整個過程,可以參考我同事的一張圖,但他的這張圖只考慮innodb表的備份情況,實際上在unlock tables執行完畢之前,非innodb表已經備份完畢,后面的t1,t2和t3實質都是innodb表,而且5.6的mysqldump利用保存點機制,每備份完一個表就將一個表上的MDL鎖釋放,避免對一張表鎖更長的時間。
1.3.1 mysqldump備份流程
1.3.2 常用的備份參數
參數 參數說明
-A 備份全庫
-B 備某一個數據庫下的所有表
-R, --routines 備份存儲過程和函數數據
--triggers 備份觸發器數據
--master-data={1|2} 告訴你備份后時刻的binlog位置如果等于1,則將其打印為CHANGE MASTER命令; 如果等于2,那么該命令將以注釋符號為前綴。
--single-transaction 對innodb引擎進行熱備
-F, --flush-logs 刷新binlog日志
-x, --lock-all-tables 鎖定所有數據庫的所有表。這是通過在整個轉儲期間采用全局讀鎖來實現的。
-l, --lock-tables 鎖定所有表以供讀取
-d 僅表結構
-t 僅數據
--compact 減少無用數據輸出(調試)
一個完整的備份語句: innodb引擎的備份命令如下:mysqldump -A -R --triggers --master-data=2 --single-transaction |gzip >/opt/all$(date +%F).sql.gz 適合多引擎混合(例如:myisam與innodb混合)的備份命令如下: mysqldump -A -R --triggers --master-data=2 |gzip >/opt/all$(date +%F).sql.gz
1.3.3 -A 參數
備份全庫,備份語句
mysqldump -uroot -p123 -A > /backup/full.sql
1.3.4 -B 參數
備某一個數據庫下的所有表
增加建庫(create)及“use庫”的語句,可以直接接多個庫名,同時備份多個庫* -B 庫1 庫2
mysqldump -uroot -p123 -B world > /backup/worldb.sql
備份語句:
create database if not 存在 use db1 drop table create table insert into
不加-B備份數據庫時,只是備份數據庫下的所有表,不會創建數據庫
只能備份單獨的數據庫(一般用于備份單表時使用) mysqldump -uroot -p123 world > /backup/world.sql 備份單表 mysqldump -uroot -p123 world city > /backup/world_city.sql 對于單表備份的粒度,再恢復數據庫數據時速度最快。 備份多個表 mysqldump 庫1 表1 表2 表3 >庫1.sql mysqldump 庫2 表1 表2 表3 >庫2.sql
分庫備份:for循環
mysqldump -uroot -p'mysql123' -B mysql ... mysqldump -uroot -p'mysql123' -B mysql_utf8 ... mysqldump -uroot -p'mysql123' -B mysql ... ......
分庫備份
for name in `mysql -e "show databases;"|sed 1d` do mysqldump -uroot -p'mysql123' -B $name done
1.3.5 --master-data={1|2}參數
告訴你備份后時刻的binlog位置
2為注釋 1為非注釋,要執行的(主從復制)
[root@db02 logs]# sed -n '22p' /opt/t.sql CHANGE MASTER TO MASTER_LOG_FILE='clsn-bin.000005', MASTER_LOG_POS=344; [root@db02 logs]# mysqldump -B --master-data=2 clsn >/opt/t.sql
1.3.6 --single-transaction 參數
對innodb引擎進行熱備
只支持innodb引擎 使用該參數會單獨開啟一個事務進行備份,利用事務的快照技術實現。
基于事務引擎:不用鎖表就可以獲得一致性的備份.
體現了ACID四大特性中的隔離性,生產中99% 使用innodb事務引擎.
雖然支持熱備,并不意味著你可以再任意時間點進行備份,特別是業務繁忙期,不要做備份策略,一般夜里進行備份。
innodb引擎的備份命令如下:
mysqldump -A -B -R --triggers --master-data=2 --single-transaction |gzip >/opt/all.sql.gz
1.3.7 --flush-logs參數/-F
刷新binlog日志
每天晚上0點備份數據庫
mysqldump -A -B -F >/opt/$(date +%F).sql [root@db02 ~]# ll /application/mysql/logs/ -rw-rw---- 1 mysql mysql 168 Jun 21 12:06 clsn-bin.000001 -rw-rw---- 1 mysql mysql 168 Jun 21 12:06 clsn-bin.000002 -rw-rw---- 1 mysql mysql 210 Jun 21 12:07 clsn-bin.index 提示:每個庫都會刷新一次.
1.3.8 壓縮備份
壓縮備份命令:
mysqldump -B --master-data=2 clsn|gzip >/opt/t.sql.gz
解壓:
zcat t.sql.gz >t1.sql gzip -d t.sql.gz #刪壓縮包 gunzip alL_2017-12-22.sql.gz
一個完整的備份語句
innodb引擎的備份命令如下: mysqldump -A -R --triggers --master-data=2 --single-transaction |gzip >/opt/all.sql.gz 適合多引擎混合(例如:myisam與innodb混合)的備份命令如下: mysqldump -A -R --triggers --master-data=2 |gzip >/opt/alL_$(date +%F).sql.gz
1.3.9 使用Mysqldump備份進行恢復實踐
備份innodb引擎數據庫clsn并壓縮:
mysqldump -B -R --triggers --master-data=2 clsn|gzip >/opt/all_$(date +%F).sql.gz
人為刪除clsn數據庫:
[root@db02 opt]# mysql -e “drop database clsn;” [root@db02 opt]# mysql -e “show databases;”
恢復數據庫:
使用gzip解壓 gzip -d xxx.gz shell> mysql </opt/all_2017-1222.sql 或 mysql> set sql_log_bin=0; Query OK, 0 rows affected (0.00 sec) mysql> source /backup/alL_2017-12-22.sql
驗證數據:
[root@db02 opt]# mysql -e “use clsn;select * from test;”
1.4 【模擬】增量恢復企業案例
1.4.1 前提條件:
1.具備全量備份(mysqldump)。
2.除全量備份以外,還有全量備份之后產生的的所有binlog增量日志。
1.4.2 環境準備
(1)準備環境:
drop database clsn; CREATE DATABASE clsn; USE `clsn`; CREATE TABLE `test` ( `id` int(4) NOT NULL AUTO_INCREMENT, `name` char(20) NOT NULL, PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=7 DEFAULT CHARSET=utf8; INSERT INTO `test` VALUES (1,'clsn'),(2,'znix'),(3,'inca'),(4,'zuma'),(5,'kaka');
查看創建好的數據
mysql> select * from test; +----+------+ | id | name | +----+------+ | 1 | clsn | | 2 | znix | | 3 | inca | | 4 | zuma | | 5 | kaka | +----+------+ 5 rows in set (0.00 sec)
(2)模擬環境:
mkdir /data/backup -p date -s "2017/12/22"
全備份:
mysqldump -B --master-data=2 --single-transaction clsn|gzip>/data/backup/clsn_$(date +%F).sql.gz
模擬增量:
mysql -e "use clsn;insert into test values(6,'haha');" mysql -e "use clsn;insert into test values(7,'hehe');" mysql -e "select * from clsn.test;"
(3)模擬誤刪數據:
date -s "2017/12/22 11:40" mysql -e "drop database clsn;show databases;"
出現問題10分鐘后,發現問題,刪除了數據庫了.
1.4.3 恢復數據準備
(1)采用iptables防火墻屏蔽所有應用程序的寫入。
[root@clsn ~]# iptables -I INPUT -p tcp --dport 3306 ! -s 172.16.1.51 -j DROP #<==非172.16.1.51禁止訪問數據庫3306端口。 或采用mysql 配置參數,但是需要重啟數據庫 --skip-networking 復制二進制日志文件 cp -a /application/mysql/logs/clsn-bin.* /data/backup/ 截取日志 zcat clsn_2017-12-22.sql.gz >clsn_2017-12-22.sql sed -n '22p' clsn_2017-12-22.sql mysqlbinlog -d clsn --start-position=339 clsn-bin.000008 -r bin.sql
需要恢復的日志:
1.clsn_2017-12-22.sql 2.bin.sql grep -i drop bin.sql sed -i '/^drop.*/d' bin.sql
1.4.4 進行數據恢復
恢復數據
[root@db02 backup]# mysql <clsn_2017-12-22.sql [root@db02 backup]# mysql -e "show databases;" +--------------------+ | Database | +--------------------+ | information_schema | | mysql | | clsn | | znix | | performance_schema | +--------------------+
查看數據庫
mysql> select * from test; +----+------+ | id | name | +----+------+ | 1 | clsn | | 2 | znix | | 3 | inca | | 4 | zuma | | 5 | kaka | +----+------+ 5 rows in set (0.00 sec)
恢復增量數據:
[root@db02 backup]# mysql clsn <bin.sql mysql> select * from test; +----+------+ | id | name | +----+------+ | 1 | clsn | | 2 | znix | | 3 | inca | | 4 | zuma | | 5 | kaka | | 6 | haha | | 7 | hehe | +----+------+ 7 rows in set (0.00 sec)
恢復完畢。
調整iptables允許用戶訪問.
1.4.5 多個binlog問題
mysqlbinlog -d clsn --start-position=339 clsn-bin.000009 clsn-bin.0000010 -r bin1.sql mysql clsn <bin1.sql
1.5 mysql數據庫實際生產慘案
1.5.1 發生背景
1、mysql云服務器會在每天夜里0點全量備份
2、某個開發人員某個陽光明媚的上午,喝著茶,優雅的誤刪除了clsn_oss(核心)數據庫。
3、導致公司業務異常停止,無法正常提供服務。
1.5.2 怎么解決的
1、當前系統進行評估。
什么損壞了,有沒有備份,
恢復數據時間(誤操作的數據有關,備份、恢復策略),
恢復業務時間
2、恢復方案 (1)恢復0點的全備,到測試庫 (2)恢復0點開始到故障時間點的binlog,到測試庫 (3)將誤操作的數據導出,恢復到生產庫。 (4)檢驗數據是不是完整的(開發測試環境測試恢復成功數據庫) (5)檢驗完成之后,重新開啟生產業務
1.5.3 項目總結
1、經過我的恢復處理,30分鐘整體業務重新提供服務(速度慢。。。) 2、在以后的工作中制定嚴格的開發規范,開發,開發。 3、將來制定更好的架構方案。
1.6 備份工具的選擇
數據量范圍:30G --> TB級別
1.6.1 數據量大,變換量小
(1)全備分花費的成本較高,mysqldump+binlog實現全備 + 增量備份,缺點是恢復成本比備份時間成本還高 (2)xtrabackup:可以較長時間做一次全備,其余時間都是增量,全量備份空間成本很高如果數據量在30G-->TB級別的話,更推薦使用xtrabackup工具。
1.6.2 數據量小,變化量大
只需要考慮時間成本。
只用全備備份即可,兩種工具選擇都可以。恢復成本上xtrabackup小一些
1.6.3 數據量、變化量都大
時間成本和空間成本都要考慮了。
數據量達到PB或更高時(facebook),mysqldump可能成為首選,占用空間小,但技術成本高。需要對mysqldump進行二次開發(大數據量公司首選)。
1.7 xtrabackup備份軟件
percona公司官網 https://www.percona.com/
1.7.1 Xtrabackup介紹
Xtrabackup是由percona開源的免費數據庫熱備份軟件,它能對InnoDB數據庫和XtraDB存儲引擎的數據庫非阻塞地備份(對于MyISAM的備份同樣需要加表鎖);mysqldump備份方式是采用的邏輯備份,其最大的缺陷是備份和恢復速度較慢,如果數據庫大于50G,mysqldump備份就不太適合。
Xtrabackup安裝完成后有4個可執行文件,其中2個比較重要的備份工具是innobackupex、xtrabackup
1)xtrabackup 是專門用來備份InnoDB表的,和mysql server沒有交互; 2)innobackupex 是一個封裝xtrabackup的Perl腳本,支持同時備份innodb和myisam,但在對myisam備份時需要加一個全局的讀鎖。 3)xbcrypt 加密解密備份工具 4)xbstream 流傳打包傳輸工具,類似tar 5)物理備份工具,在同級數據量基礎上,都要比邏輯備份性能好的多,特別是在數據量較大的時候,體現的更加明顯。
1.7.1 Xtrabackup優點
1)備份速度快,物理備份可靠
2)備份過程不會打斷正在執行的事務(無需鎖表)
3)能夠基于壓縮等功能節約磁盤空間和流量
4)自動備份校驗
5)還原速度快
6)可以流傳將備份傳輸到另外一臺機器上
7)在不增加云服務器負載的情況備份數據
8)物理備份工具,在同級數據量基礎上,都要比邏輯備份性能要好的多。幾十G到不超過TB級別的條件下。但在同數據量級別,物理備份恢復數據上有一定優勢。
1.7.2 備份原理
拷貝數據文件、拷貝數據頁
對于innodb表可以實現熱備。
(1)在數據庫還有修改操作的時刻,直接將數據文件備走,此時,備份走的數據對于當前mysql來講是不一致的。 (2)將備份過程中的redo和undo一并備走。 (3)為了恢復的時候,只要保證備份出來的數據頁lsn能和redo lsn匹配,將來恢復的就是一致的數據。redo應用和undo應用。
對于myisam表實現自動鎖表拷貝文件。
備份開始時首先會開啟一個后臺檢測進程,實時檢測mysql redo的變化,一旦發現有新的日志寫入,立刻將日志記入后臺日志文件xtrabackup_log中,之后復制innodb的數據文件一系統表空間文件ibdatax,復制結束后,將執行flush tables with readlock,然后復制.frm MYI MYD等文件,最后執行unlock tables,最終停止xtrabackup_log
1.7.3 xtrabackup的安裝
安裝依賴關系
wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-6.repo yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-DBD-MySQL 下載軟件包,并安裝軟件 wget https://www.percona.com/downloads/XtraBackup/Percona-XtraBackup-2.4.4/binary/redhat/6/x86_64/percona-xtrabackup-24-2.4.4-1.el6.x86_64.rpm yum -y install percona-xtrabackup-24-2.4.4-1.el6.x86_64.rpm
1.8 xtrabackup實踐操作
1.8.1 全量備份與恢復
這一階段會啟動xtrabackup內嵌的innodb實例,回放xtrabackup日志xtrabackup_log,將提交的事務信息變更應用到innodb數據/表空間,同時回滾未提交的事務(這一過程類似innodb的實例恢復)。恢復過程如下圖:
備份
創建備份目錄
mkdir /backup -p 進行第一次全量備份 innobackupex --defaults-file=/etc/my.cnf --user=root --password=123 --socket=/application/mysql/tmp/mysql.sock --no-timestamp /backup/xfull
恢復前準備
恢復數據前的準備(合并xtabackup_log_file和備份的物理文件)
innobackupex --apply-log --use-memory=32M /backup/xfull/ 查看合并后的 checkpoints 其中的類型變為 full-prepared 即為可恢復。 [root@db02 full]# cat xtrabackup_checkpoints backup_type = full-prepared from_lsn = 0 to_lsn = 4114824 last_lsn = 4114824 compact = 0 recover_binlog_info = 0
破壞數據庫數據文件
[root@db02 full]# cd /application/mysql/data/ [root@db02 data]# ls auto.cnf db02.pid ibdata2 mysql mysql-bin.index world clsn haha ib_logfile0 mysql-bin.000001 oldboy db02.err ibdata1 ib_logfile1 mysql-bin.000002 performance_schema [root@db02 data]# \rm -rf ./* [root@db02 data]# ls [root@db02 data]# killall mysql
恢復方法
方法一:直接將備份文件復制回來
cp -a /backup/full/ /application/mysql/data chown -R mysql.mysql /application/mysql/data
方法二:使用innobackupex命令進行恢復(推薦)
[root@db02 mysql]# innobackupex --copy-back /backup/xfull [root@db02 mysql]# chown -R mysql.mysql /application/mysql/ 說明:無論使用那種恢復方法都要恢復后需改屬組屬主,保持與程序一致。 [root@db02 data]# cd /application/mysql/data/ [root@db02 data]# ls clsn ibdata2 ibtmp1 performance_schema xtrabackup_info haha ib_logfile0 mysql world ibdata1 ib_logfile1 oldboy xtrabackup_binlog_pos_innodb 啟動是數據庫 [root@db02 data]# /etc/init.d/mysqld start
1.8.2 增量備份與恢復
innobackupex增量備份過程中的"增量"處理,其實主要是相對innodb而言,對myisam和其他存儲引擎而言,它仍然是全拷貝(全備份)
"增量"備份的過程主要是通過拷貝innodb中有變更的"頁"(這些變更的數據頁指的是"頁"的LSN大于xtrabackup_checkpoints中給定的LSN)。增量備份是基于全備的,第一次增備的數據必須要基于上一次的全備,之后的每次增備都是基于上一次的增備,最終達到一致性的增備。增量備份的過程如下,和全備的過程很類似,區別僅在第2步。
增量備份從哪增量?
基于上一次的備份進行增量。
redo默認情況下是一組兩個文件,并且有固定大小。其使用的文件是一種輪詢使用方式,他不是永久的,文件隨時可能被覆蓋。
注意:千萬不要在業務繁忙時做備份。
備份什么內容
1、可以使用binlog作為增量
2、自帶的增量備份,基于上次備份后的變化的數據頁,還要備份在備份過程中的undo、redo變化
怎么備份
1**、先進行第一次全備 innobackupex --user=root --password=123 --no-timestamp /bakcup/xfull 對原庫做了修改,修改了小紅那行然后commit。 2**、再進行增量備份 innobackupex --user=root --password=123 --incremental --no-timestamp --incremental-basedir=/backup/xfull/ /backup/xinc1
怎么恢復
1、先應用全備日志(--apply-log,暫時不需要做回滾操作--redo-only)
innobackupex --apply-log --redo-only /backup/xfull/
2、合并增量到全備中(一致性的合并)
innobackupex --apply-log --incremental-dir=/backup/xinc1 /backup/xfull/ innobackupex --apply-log /backup/xfull
3、合并完成進行恢復
方法一:直接將備份文件復制回來
cp -a /backup/full/ /application/mysql/data chown -R mysql.mysql /application/mysql/data
方法二:使用innobackupex命令進行恢復(推薦)
[root@db02 mysql]# innobackupex --copy-back /backup/xfull [root@db02 mysql]# chown -R mysql.mysql /application/mysql/ 說明:無論使用那種恢復方法都要恢復后需改屬組屬主,保持與程序一致。
1.8.3 數據庫備份策略
每周的周日進行一次全備;周一到周六每天做上一天增量,每周輪詢一次。
xfull --apply-log --redo-only 保證last-lsn=周一增量開始lsn xinc1 合并周一的增量到全備,并apply-log --redo-only 保證last-lsn=周二增量開始lsn xinc2 合并周二的增量到全備,并apply-log --redo-only 保證last-lsn=周三增量開始lsn xinc3 合并周三的增量到全備,并apply-log --redo-only 保證last-lsn=周四增量開始lsn xinc4 合并周四的增量到全備,并apply-log --redo-only 保證last-lsn=周五增量開始lsn xinc5 合并周五的增量到全備,并apply-log --redo-only 保證last-lsn=周六增量開始lsn xinc6 合并周六的增量到全備,--apply-log 準備恢復即可
1.8.4 真實生產實戰案例分析
背景:某物流公司網站核心系統,數據量是220G,每日更新量100M-200M
備份方案: xtrabackup全備+增量
備份策略(crontab):
1、周六 晚上0點全備
0 0 6 zjs_full.sh ---這行可以沒有
2、周一至周五、周日 是增量,基于上一天增量
0 1 0-5 zjs_inc.sh---這行可以沒有
故障場景:
周三的時候,下午兩點,開發人員誤刪除了一張表zjs_base,大約10G。
項目職責:
1) 指定恢復方案、利用現有備份;
2) 恢復誤刪除數據;
3) 制定運維、開發流程規范。
恢復流程:
a) 準備上周六全備。 b) 合并周日、周一 、周二增量。 c) 在測試庫恢復以上數據,數據的目前狀態應該周三凌晨1:00 d) 需要恢復的數據狀態是,下午2點鐘左右 e) 從1點開始的binlog恢復到刪除之前轉臺 f) 導出刪除的表zjs_base,恢復到生產庫,驗證數據可用性、完整性。 g) 啟動應用連接數據庫。
總結:經過30分鐘將誤刪表恢復了。服務總共停止40分鐘。
1.8.5 故障恢復小結
恢復思路: 1、首先確保斷開所有應用,保證數據的安全。 2、檢查用于恢復的備份存在嗎。 3、設計快速、安全恢復簡單方案,制定突發問題解決辦法。 具體恢復流程: 1、準備上周六全備,并--apply-log --redo-only 2、合并增量,周日、周一 、周二 --apply-log --redo-only 周三 --apply-log 3、在測試庫恢復以上數據,數據的目前狀態應該周三凌晨1:00 4、需要恢復的數據狀態是,下午2點鐘左右,刪除zjs_base之前的數據狀態 從1點開始的binlog恢復到刪除之前的那個events的position。 5、導出刪除的表zjs_base,恢復到生產庫,驗證數據可用性、完整性。 6、啟動應用連接數據庫。 確定恢復所需時間 恢復窗口要多長?----> 預計3小時 和你恢復+驗證+意外情況有關。 業務停多長時間?----> 6小時?或者更多?更少?
1.8.6 【模擬】生產事故恢復
數據創建階段
1、創建備份需要的目錄
mkdir full inc1 inc2
2、周日全備
innobackupex --user=root --password=123 --no-timestamp /backup/xbackup/full/
3、模擬數據變化
use oldboy create table test(id int,name char(20),age int); insert into test values(8,'outman',99); insert into test values(9,'outgirl',100); commit;
4、周一增量備份
innobackupex --user=root --password=123 --incremental --no-timestamp --incremental-basedir=/backup/xbackup/full/ /backup/xbackup/inc1
5、模擬數據變化
use oldboy insert into test values(8,'outman1',119); insert into test values(9,'outgirl1',120); commit;
6、周二的增量備份
innobackupex --user=root --password=123 --incremental --no-timestamp --incremental-basedir=/backup/xbackup/inc1 /backup/xbackup/inc2
再插入新的行操作
use oldboy
insert into test values(10,'outman2',19);
insert into test values(11,'outgirl2',10);
commit;
模擬誤操作事故
模擬場景,周二下午2點誤刪除test表
use oldboy; drop table test;
準備恢復數據
1.準備xtrabackup備份,合并備份
innobackupex --apply-log --redo-only /backup/xbackup/full innobackupex --apply-log --redo-only --incremental-dir=/backup/xbackup/inc1 /backup/xbackup/full innobackupex --apply-log --incremental-dir=/backup/xbackup/inc2 /backup/xbackup/full innobackupex --apply-log /backup/xbackup/full
2.確認binlog起點,準備截取binlog。
cd /backup/xbackup/inc2/ cat xtrabackup_binlog_info mysql-bin.000001 1121
3.截取到drop操作之前的binlog
mysqlbinlog --start-position=1121 /tmp/mysql-bin.000003 找到drop之前的event和postion號做日志截取,假如 1437 mysqlbinlog --start-position=1121 --stop-position=1437 /tmp/mysql-bin.000003 >/tmp/incbinlog.sql
4.關閉數據庫、備份二進制日志
/etc/init.d/mysqld stop cd /application/mysql/data/ cp mysql-bin.000001 /tmp
5.刪除MySQL所有數據
cd /application/mysql/data/ rm -rf *
恢復數據
1.將全量備份的數據恢復到數據目錄下
innobackupex --copy-back /backup/xbackup/full/ chown -R mysql.mysql /application/mysql/data/ /etc/init.d/mysqld start
2.恢復binlog記錄
set sql_log_bin=0 source /tmp/incbinlog.sql
1.8.7 xtarbackup導出
(1)“導出”表 導出表是在備份的prepare階段進行的,因此,一旦完全備份完成,就可以在prepare過程中通過--export選項將某表導出了:
innobackupex --apply-log --export /path/to/backup
此命令會為每個innodb表的表空間創建一個以.exp結尾的文件,這些以.exp結尾的文件則可以用于導入至其它云服務器。
(2)“導入”表 要在mysql云服務器上導入來自于其它云服務器的某innodb表,需要先在當前云服務器上創建一個跟原表表結構一致的表,而后才能實現將表導入:
mysql> CREATE TABLE mytable (...) ENGINE=InnoDB;
然后將此表的表空間刪除:
mysql> ALTER TABLE mydatabase.mytable DISCARD TABLESPACE;
接下來,將來自于“導出”表的云服務器的mytable表的mytable.ibd和mytable.exp文件復制到當前云服務器的數據目錄,然后使用如下命令將其“導入”:(記得改權限)
mysql> ALTER TABLE mydatabase.mytable IMPORT TABLESPACE;
示例:
innobackupex --user=root --password=123 --no-timestamp /backup/xbackup/full/ 進入到全備的數據庫目錄下 [root@db02 haha]# ls db.opt PENALTIES.frm PENALTIES.ibd PLAYERS.frm PLAYERS.ibd [root@db02 haha]# pwd /backup/xbackup/full/haha 導出表 [root@db02 haha]# innobackupex --apply-log --export /backup/xbackup/full/ [root@db02 haha]# ls db.opt PENALTIES.exp PENALTIES.ibd PLAYERS.exp PLAYERS.ibd PENALTIES.cfg PENALTIES.frm PLAYERS.cfg PLAYERS.frm 創建出同結構表 CREATE TABLE `PLAYERS` ( `PLAYERNO` int(11) NOT NULL, `NAME` char(15) NOT NULL, `INITIALS` char(3) NOT NULL, `BIRTH_DATE` date DEFAULT NULL, `SEX` char(1) NOT NULL, `JOINED` smallint(6) NOT NULL, `STREET` varchar(30) NOT NULL, `HOUSENO` char(4) DEFAULT NULL, `POSTCODE` char(6) DEFAULT NULL, `TOWN` varchar(30) NOT NULL, `PHONENO` char(13) DEFAULT NULL, `LEAGUENO` char(4) DEFAULT NULL, PRIMARY KEY (`PLAYERNO`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8 復制恢復數據到庫下 [root@db02 haha]# cp PLAYERS.ibd PLAYERS.exp /application/mysql/data/backup/ cp: overwrite `/application/mysql/data/backup/PLAYERS.ibd'? y 恢復數據 mysql> ALTER TABLE backup.PLAYERS DISCARD TABLESPACE; Query OK, 0 rows affected (0.00 sec)
1.8.8 innobackupex參數說明
參數 參數說明
--compress 該選項表示壓縮innodb數據文件的備份。
--compress-threads 該選項表示并行壓縮worker線程的數量。
--compress-chunk-size 該選項表示每個壓縮線程worker buffer的大小,單位是字節,默認是64K。
--encrypt 該選項表示通過ENCRYPTION_ALGORITHM的算法加密innodb數據文件的備份,目前支持的算法有ASE128,AES192,AES256。
--encrypt-threads 該選項表示并行加密的worker線程數量。
--encrypt-chunk-size 該選項表示每個加密線程worker buffer的大小,單位是字節,默認是64K。
--encrypt-key 該選項使用合適長度加密key,因為會記錄到命令行,所以不推薦使用。
--encryption-key-file 該選項表示文件必須是一個簡單二進制或者文本文件,加密key可通過以下命令行命令生成:openssl rand -base64 24。
--include 該選項表示使用正則表達式匹配表的名字[db.tb],要求為其指定匹配要備份的表的完整名稱,即databasename.tablename。
--user 該選項表示備份賬號。
--password 該選項表示備份的密碼。
--port 該選項表示備份數據庫的端口。
--host 該選項表示備份數據庫的地址。
--databases 該選項接受的參數為數據名,如果要指定多個數據庫,彼此間需要以空格隔開;如:"xtra_test dba_test",同時,在指定某數據庫時,也可以只指定其中的某張表。如:"mydatabase.mytable"。該選項對innodb引擎表無效,還是會備份所有innodb表。此外,此選項也可以接受一個文件為參數,文件中每一行為一個要備份的對象。
--tables-file 該選項表示指定含有表列表的文件,格式為database.table,該選項直接傳給--tables-file。
--socket 該選項表示mysql.sock所在位置,以便備份進程登錄mysql。
--no-timestamp 該選項可以表示不要創建一個時間戳目錄來存儲備份,指定到自己想要的備份文件夾。
--ibbackup 該選項指定了使用哪個xtrabackup二進制程序。IBBACKUP-BINARY是運行percona xtrabackup的命令。這個選項適用于xtrbackup二進制不在你是搜索和工作目錄,如果指定了該選項,innoabackupex自動決定用的二進制程序。
--slave-info 該選項表示對slave進行備份的時候使用,打印出master的名字和binlog pos,同樣將這些信息以change master的命令寫入xtrabackup_slave_info文件。可以通過基于這份備份啟動一個從庫。
--safe-slave-backup 該選項表示為保證一致性復制狀態,這個選項停止SQL線程并且等到show status中的slave_open_temp_tables為0的時候開始備份,如果沒有打開臨時表,bakcup會立刻開始,否則SQL線程啟動或者關閉知道沒有打開的臨時表。如果slave_open_temp_tables在--safe-slave-backup-timeount(默認300秒)秒之后不為0,從庫sql線程會在備份完成的時候重啟。
--kill-long-queries-timeout 該選項表示從開始執行FLUSH TABLES WITH READ LOCK到kill掉阻塞它的這些查詢之間等待的秒數。默認值為0,不會kill任何查詢,使用這個選項xtrabackup需要有Process和super權限。
--kill-long-query-type 該選項表示kill的類型,默認是all,可選select。
--ftwrl-wait-threshold 該選項表示檢測到長查詢,單位是秒,表示長查詢的閾值。
--ftwrl-wait-query-type 該選項表示獲得全局鎖之前允許那種查詢完成,默認是ALL,可選update。
--galera-info 該選項表示生成了包含創建備份時候本地節點狀態的文件xtrabackup_galera_info文件,該選項只適用于備份PXC。
--stream 該選項表示流式備份的格式,backup完成之后以指定格式到STDOUT,目前只支持tar和xbstream。
--defaults-file 該選項指定了從哪個文件讀取MySQL配置,必須放在命令行第一個選項的位置。
--defaults-extra-file 該選項指定了在標準defaults-file之前從哪個額外的文件讀取MySQL配置,必須在命令行的第一個選項的位置。一般用于存備份用戶的用戶名和密碼的配置文件。
----defaults-group 該選項表示從配置文件讀取的組,innobakcupex多個實例部署時使用。
--no-lock 該選項表示關閉FTWRL的表鎖,只有在所有表都是Innodb表并且不關心backup的binlog pos點,如果有任何DDL語句正在執行或者非InnoDB正在更新時(包括mysql庫下的表),都不應該使用這個選項,后果是導致備份數據不一致,如果考慮備份因為獲得鎖失敗,可以考慮--safe-slave-backup立刻停止復制線程。
--tmpdir 該選項表示指定--stream的時候,指定臨時文件存在哪里,在streaming和拷貝到遠程server之前,事務日志首先存在臨時文件里。在使用參數stream=tar備份的時候,你的xtrabackup_logfile可能會臨時放在/tmp目錄下,如果你備份的時候并發寫入較大的話 xtrabackup_logfile可能會很大(5G+),很可能會撐滿你的/tmp目錄,可以通過參數--tmpdir指定目錄來解決這個問題。
--history 該選項表示percona server 的備份歷史記錄在percona_schema.xtrabackup_history表。
--incremental 該選項表示創建一個增量備份,需要指定--incremental-basedir。
--incremental-basedir 該選項表示接受了一個字符串參數指定含有full backup的目錄為增量備份的base目錄,與--incremental同時使用。
--incremental-dir 該選項表示增量備份的目錄。
--incremental-force-scan 該選項表示創建一份增量備份時,強制掃描所有增量備份中的數據頁。
--incremental-lsn 該選項表示指定增量備份的LSN,與--incremental選項一起使用。
--incremental-history-name 該選項表示存儲在PERCONA_SCHEMA.xtrabackup_history基于增量備份的歷史記錄的名字。Percona Xtrabackup搜索歷史表查找最近(innodb_to_lsn)成功備份并且將to_lsn值作為增量備份啟動出事lsn.與innobackupex--incremental-history-uuid互斥。如果沒有檢測到有效的lsn,xtrabackup會返回error。
--incremental-history-uuid 該選項表示存儲在percona_schema.xtrabackup_history基于增量備份的特定歷史記錄的UUID。
--close-files 該選項表示關閉不再訪問的文件句柄,當xtrabackup打開表空間通常并不關閉文件句柄目的是正確的處理DDL操作。如果表空間數量巨大,這是一種可以關閉不再訪問的文件句柄的方法。使用該選項有風險,會有產生不一致備份的可能。
--compact 該選項表示創建一份沒有輔助索引的緊湊的備份。
--throttle 該選項表示每秒IO操作的次數,只作用于bakcup階段有效。apply-log和--copy-back不生效不要一起用。
看完Mysql 與 xtrabackup如何實現備份與恢復這篇文章后,很多讀者朋友肯定會想要了解更多的相關內容,如需獲取更多的行業信息,可以關注我們的行業資訊欄目。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。