經歷了兩天不懈努力,終于恢復了一次誤操作刪除的生產服務器數據。對本次事故過程和解決辦法記錄在此,警醒自己,也提示別人莫犯此錯。也希望遇到問題的朋友能找到一絲靈感解決問題。
事故背景
安排一個妹子在一臺生產服務器上安裝Oracle,妹子邊研究邊安裝,感覺裝的不對,準備卸載重新安裝。從網上找到卸載方法,其中要執行一行命令刪除Oracle的安裝目錄,命令如下:
rm -rf $ORACLE_BASE
/*
如果 這個變量沒有賦值,那命令就變成了
rm -rf /*
等等,妹子使用的可是root賬戶啊。
就這樣,把整個盤的文件全部刪除了,包括應用Tomcat、MySQL數據庫 and so on。
MySQL 數據庫不是在運行嗎?Linux 能刪除正在執行的文件?反正是徹底刪除了,最后還剩一個tomcat 的 log 文件,估計是文件過大,一時沒有刪除成功。
看著妹子自責的眼神,又是因為這事是我安排她做的,也沒有跟她講清厲害關系,沒有任何培訓,責任只能一個人背了,況且怎么能讓美女背負這個責任呢?打電話到機房,將盤掛到另一臺服務器上,ssh上去查看文件全部被清,這臺服務器運行的可是一個客戶的生產系統啊,已經運行大半年了,得盡快恢復啊。
于是找來脫機備份的數據庫,發現備份文件只有1kb,里面只有幾行熟悉的 注釋(難道是 crontab 執行的備份腳本有問題),最接近的備份也是2013年12月份的了,真是屋漏偏逢連夜雨啊。想起來一位領導說過的案例:
當一個生產系統掛掉以后,發現所有備份都有問題,刻錄的光盤也有劃痕,磁帶機也壞了(一個業界前輩,估計以前還用光盤做備份了),沒想到今天真的應驗到我的身上了,怎么辦?
部門領導知道情況后,已經做了最壞的B計劃:領導親自帶隊和產品AA周日趕到客戶所在的地市,星期一去領導層溝通;BB和CC去客戶管理員那邊想辦法說服客戶。
救命稻草/
趕快到網上去查資料進行誤刪數據恢復,還真找到一款能夠恢復通過rm -rf刪除的文件,我們磁盤也是ext3格式,且網上有不少的成功案例。于是燃起了一絲希望,趕快對盤umount,防止重新寫入補刪文件扇區。下載,安裝(編譯安裝過程艱辛暫且不表)。先執行掃描文件名命令:
ext3grep /dev/vgdata/LogVol00 --dump -names
打印出了所有被刪除文件及路徑,心中狂喜,不用執行B計劃了,文件都在呢。這款軟件不能按目錄恢復文件,只能執行恢復全部命令:
ext3grep /dev/vgdata/LogVol00 --restore-all
結果當前盤空間不足,沒辦法只能恢復文件,嘗試了幾個文件,居然部分成功部分失敗。
ext3grep /dev/vgdata/LogVol00 --restore-file var/lib/mysql/aqsh/tb_b_attench.MYD
心里不禁一涼,難道是刪除磁盤上被寫過文件了?恢復機率不大了啊,能恢復幾個算幾個吧,說不定重要數據文件剛好在能恢復的MYD文件中。于是先將所有文件名重定向到一個文件文件中。
ext3grep /dev/vgdata/LogVol00 --dump-names >/usr/allnames.txt
過濾出來所有 MySQL 數據庫的文件名存成 mysqltbname.txt 編寫腳本恢復文件:
while
read LINE
do
echo
"begin to restore file "
$LINE
ext3grep /dev/vgdata/
LogVol00
--restore-file $LINE
if
[ $? !=
0
]
then
echo
"restore failed, exit"
# exit 1
fi
done
< ./mysqltbname.txt
執行,大概運行了20分鐘,恢復了40多個文件,但不夠啊,我們將近100張表,每張表frm,myd,myi 三個文件,怎么說也有300多個左右啊~將找回來的文件附到現有數據庫上,更要文件權限為 777 后,重啟 MySQL,也算是找回一部分數據了。
但客戶重要的考勤簽到數據、手機端上報數據(據說客戶按這些數據做員工績效的)還沒找回來啊。咋辦?中間又試了另一款工具 ,跟 語法基本一致,原理應該也一樣了,但是據說能按目錄恢復,好吧試一試。
extundelete /dev/vgdata/LogVol00 --restore-directory var/lib/mysql/aqsh
果然不出所料,恢復不出來!那些文件已被破壞了。跟領導匯報,執行B計劃吧……無奈之下下班回家(周末了,回去休息一下,想想辦法吧)。
靈機一動/binlog
第二天早晨一早就醒了(心里有事?。?,背上電腦,去公司(這個周末算是報銷了,不挨批,通報,罰款,開除就不錯了,還過什么周末?。?。
依舊運行 ,,也就那幾招啊,把系統架到測試服務器上,看看數據能不能想辦法補一補吧。
在測試服務器上進行 ,恢復文件,覆蓋恢復回來的文件,給文件加權限,重啟 MySQL。wait,wait,不是有 binlog 嗎?我們服務都要求開啟 binlog,說不定能通過binlog里恢復數據呢?于是從 dump 出來的文件名里找到 binlog 的文件,一共三個,mysql-,mysql-bin.000009,mysql-bin.000010,恢復一下0001:
ext3grep /dev/vgdata/LogVol00 --restore-file /var/lib/mysql/mysql-bin.000001
居然失敗了……再看另兩個文件,mysql-bin.000010大概幾百MB,應該靠譜一點,執行還原命令,居然成功了~~趕快 scp 到測試服務器。執行 binlog 還原。
/usr/mysql-bin.000010 | mysql -uroot -p輸入密碼,卡住了(好現象),經過漫長的等待,終于結束了。打開應用,哦,感謝cctv,mtv,數據回來了~~
后記
經過此次事故,雖然數據很幸運能找回來了,但是過程卻是驚心動魄。也為自己的錯誤所帶來的后果,給同事和領導帶來的連帶責任而后怕。也希望謹記此次事故,以后不再犯同樣的錯誤。事故反思如下:
通過本次事故,幾位跟這個項目和事故沒有任何關系的同事,主動前來幫忙,查資料,幫測試,有一位同事還幫忙到晚上1點多鐘進行數據恢復測試。同時產品經理在想到面向客戶的巨大壓力的情況下,沒有慌亂而責怪開發人員和具體操作人,而讓大家能靜下心來想解決方案。
部門領導也積極主動的幫忙想辦法,陪我們加班測試,實時跟蹤事情進程。通過大家的共同努力,終于事情相對圓滿結束,接下來,周一上午進行集體反思,總結經驗教訓,這類事故一定盡量大努力進行避免。
本文所用到的工具鏈接:
功能跟差不多,原理應該也差不多。只是號稱可以還原目錄,我這里沒有試驗成功。
來源://p/3734494.html
==打車千萬別直接去APP,記得先領券== 親測一單省了30塊錢
*請認真填寫需求信息,我們會在24小時內與您取得聯系。