Posted on 2010-09-28 13:38
幻海藍(lán)夢(mèng) 閱讀(13804)
評(píng)論(1) 編輯 收藏 所屬分類:
Linux 、
版本管理
(本文例子基于FreeBSD/Linux實(shí)現(xiàn),windows環(huán)境請(qǐng)自己做出相應(yīng)修改)
配置管理的一個(gè)重要使命是保證數(shù)據(jù)的安全性,防止服務(wù)器應(yīng)硬盤損壞、誤操作造成數(shù)據(jù)無(wú)法恢復(fù)的災(zāi)難性后果。因此制定一個(gè)完整的備份策略非常重要。
一般來(lái)說,備份策略應(yīng)規(guī)定如下幾部分內(nèi)容:備份頻度、備份方式、備份存放地點(diǎn)、備份責(zé)任人、災(zāi)難恢復(fù)檢查措施及規(guī)定。
備份頻度、存放地點(diǎn)等內(nèi)容可以根據(jù)自己的實(shí)際情況自行制定;本文重點(diǎn)描述備份方式。
svn備份一般采用三種方式:1)svnadmin dump 2)svnadmin hotcopy 3)svnsync.
注意,svn備份不宜采用普通的文件拷貝方式(除非你備份的時(shí)候?qū)?kù)暫停),如copy命令、rsync命令。
筆者曾經(jīng)用 rsync命令來(lái)做增量和全量備份,在季度備份檢查審計(jì)中,發(fā)現(xiàn)備份出來(lái)的庫(kù)大部分都不可用,因此最好是用svn本身提供的功能來(lái)進(jìn)行備份。
優(yōu)缺點(diǎn)分析:
==============
第一種svnadmin dump是官方推薦的備份方式,優(yōu)點(diǎn)是比較靈活,可以全量備份也可以增量備份,并提供了版本恢復(fù)機(jī)制。
缺點(diǎn)是:如果版本比較大,如版本數(shù)增長(zhǎng)到數(shù)萬(wàn)、數(shù)十萬(wàn),那么dump的過程將非常慢;備份耗時(shí),恢復(fù)更耗時(shí);不利于快速進(jìn)行災(zāi)難恢復(fù)。
個(gè)人建議在版本數(shù)比較小的情況下使用這種備份方式。
第二種svnadmin hotcopy原設(shè)計(jì)目的估計(jì)不是用來(lái)備份的,只能進(jìn)行全量拷貝,不能進(jìn)行增量備份;
優(yōu)點(diǎn)是:備份過程較快,災(zāi)難恢復(fù)也很快;如果備份機(jī)上已經(jīng)搭建了svn服務(wù),甚至不需要恢復(fù),只需要進(jìn)行簡(jiǎn)單配置即可切換到備份庫(kù)上工作。
缺點(diǎn)是:比較耗費(fèi)硬盤,需要有較大的硬盤支持(俺的備份機(jī)有1TB空間,呵呵)。
第三種svnsync實(shí)際上是制作2個(gè)鏡像庫(kù),當(dāng)一個(gè)壞了的時(shí)候,可以迅速切換到另一個(gè)。不過,必須svn1.4版本以上才支持這個(gè)功能。
優(yōu)點(diǎn)是:當(dāng)制作成2個(gè)鏡像庫(kù)的時(shí)候起到雙機(jī)實(shí)時(shí)備份的作用;
缺點(diǎn)是:當(dāng)作為2個(gè)鏡像庫(kù)使用時(shí),沒辦法做到“想完全拋棄今天的修改恢復(fù)到昨晚的樣子”;而當(dāng)作為普通備份機(jī)制每日備份時(shí),操作又較前2種方法麻煩。
下面具體描述這三種的備份的方法:
===============
1、svnadmin dump備份工具
------------------------
這是subversion官方推薦的備份方式。
1)定義備份策略:
備份頻度:每周六進(jìn)行一次全量備份,每周日到周五進(jìn)行增量備份
備份地點(diǎn):備份存儲(chǔ)路徑到/home/backup/svn/
備份命名:全量備份文件名為:weekly_fully_backup.yymmdd,增量備份文件命名為:daily-incremental-backup.yymmdd
備份時(shí)間:每晚21點(diǎn)開始
備份檢查:每月末進(jìn)行svnadmin load恢復(fù)試驗(yàn)。
2)建立全量備份腳本:
在~/下建立一個(gè)perl腳本文件,名為weekly_backup.pl,執(zhí)行全量備份,并壓縮備份文件,代碼如下(本代碼只針對(duì)一個(gè)庫(kù)的備份,如果是多個(gè)庫(kù)請(qǐng)做相應(yīng)改動(dòng)):
#!/usr/bin/perl -w
my $svn_repos="/home/svn/repos/project1";
my $backup_dir="/home/backup/svn/";
my $next_backup_file = "weekly_fully_backup.".`date +%Y%m%d`;
$youngest=`svnlook youngest $svn_repos`;
chomp $youngest;
print "Backing up to revision $youngestn";
my $svnadmin_cmd="svnadmin dump --revision 0youngest $svn_repos >$backup_dir/$next_backup_file";
`$svnadmin_cmd`;
open(LOG,">$backup_dir/last_backed_up"); #記錄備份的版本號(hào)
print LOG $youngest;
close LOG;
#如果想節(jié)約空間,則再執(zhí)行下面的壓縮腳本
print "Compressing dump file...n";
print `gzip -g $backup_dir/$next_backup_file`;
3)建立增量備份腳本:
在全量備份的基礎(chǔ)上,進(jìn)行增量備份:在~/下建立一個(gè)perl腳本文件,名為:daily_backup.pl,代碼如下:
#!/usr/bin/perl -w
my $svn_repos="/home/svn/repos/project1";
my $backup_dir="/home/backup/svn/";
my $next_backup_file = "daily_incremental_backup.".`date +%Y%m%d`;
open(IN,"$backup_dir/last_backed_up");
$previous_youngest = <IN>;
chomp $previous_youngest;
close IN;
$youngest=`svnlook youngest $svn_repos`;
chomp $youngest;
if ($youngest eq $previous_youngest)
{
print "No new revisions to backup.n";
exit 0;
}
my $first_rev = $previous_youngest + 1;
print "Backing up revisions $youngest ...n";
my $svnadmin_cmd = "svnadmin dump --incremental --revision $first_revyoungest $svn_repos > $backup_dir/$next_backup_file";
`$svnadmin_cmd`;
open(LOG,">$backup_dir/last_backed_up"); #記錄備份的版本號(hào)
print LOG $youngest;
close LOG;
#如果想節(jié)約空間,則再執(zhí)行下面的壓縮腳本
print "Compressing dump file...n";
print `gzip -g $backup_dir/$next_backup_file`;
4)配置/etc/crontab文件
配置 /etc/crontab 文件,指定每周六執(zhí)行weekly_backup.pl,指定周一到周五執(zhí)行daily_backup.pl;
具體步驟俺就不啰嗦了.
5)備份恢復(fù)檢查
在月底恢復(fù)檢查中或者在災(zāi)難來(lái)臨時(shí),請(qǐng)按照如下步驟進(jìn)行恢復(fù):恢復(fù)順序從低版本逐個(gè)恢復(fù)到高版本;即,先恢復(fù)最近的一次完整備份 weekly_full_backup.071201(舉例),然后恢復(fù)緊挨著這個(gè)文件的增量備份 daily_incremental_backup.071202,再恢復(fù)后一天的備份071203,依次類推。如下:
user1>mkdir newrepos
user1>svnadmin create newrepos
user1>svnadmin load newrepos < weekly_full_backup.071201
user1>svnadmin load newrepos < daily_incremental_backup.071202
user1>svnadmin load newrepos < daily_incremental_backup.071203
....
如果備份時(shí)采用了gzip進(jìn)行壓縮,恢復(fù)時(shí)可將解壓縮和恢復(fù)命令合并,簡(jiǎn)單寫成:
user1>zcat weekly_full_backup.071201 | svnadmin load newrepos
user1>zcat daily_incremental_backup.071202 | svnadmin load newrepos
...
(這部分內(nèi)容很多參考了《版本控制之道》)
2、svnadmin hotcopy整庫(kù)拷貝方式
-------------------------
svnadmin hotcopy是將整個(gè)庫(kù)都“熱”拷貝一份出來(lái),包括庫(kù)的鉤子腳本、配置文件等;任何時(shí)候運(yùn)行這個(gè)腳本都得到一個(gè)版本庫(kù)的安全拷貝,不管是否有其他進(jìn)程正在使用版本庫(kù)。
因此這是俺青睞的備份方式。
1)定義備份策略
備份頻度:每天進(jìn)行一次全量備份,
備份地點(diǎn):備份目錄以日期命名,備份路徑到 /home/backup/svn/${mmdd}
備份保留時(shí)期:保留10天到15天,超過15天的進(jìn)行刪除。
備份時(shí)間:每晚21點(diǎn)開始
備份檢查:備份完畢后自動(dòng)運(yùn)行檢查腳本、自動(dòng)發(fā)送報(bào)告。
2)建立備份腳本
在自己home目錄 ~/下創(chuàng)建一個(gè)文件,backup.sh:
#!/bin/bash
SRCPATH=/home/svn/repos/; #定義倉(cāng)庫(kù)parent路徑
DISTPATH=/home/backup/svn/`date +%m%d`/ ; #定義存放路徑;
if [ -d "$DISTPATH" ]
then
else
mkdir $DISTPATH
chmod g+s $DISTPATH
fi
echo $DISTPATH
svnadmin hotcopy $SRCPATH/Project1 $DISTPATH/Project1 >/home/backup/svn/cpreport.log 2>&1;
svnadmin hotcopy $SRCPATH/Project2 $DISTPATH/Project2
cp $SRCPATH/access $DISTPATH; #備份access文件
cp $SRCPATH/passwd $DISTPATH; #備份passwd文件
perl /home/backup/svn/backup_check.pl #運(yùn)行檢查腳本
perl /home/backup/svn/deletDir.pl #運(yùn)行刪除腳本,對(duì)過期備份進(jìn)行刪除。
3)建立檢查腳本
在上面指定的地方/home/backup/svn/下建立一個(gè)perl腳本:backup_check.pl
備份完整性檢查的思路是:對(duì)備份的庫(kù)運(yùn)行 svnlook youngest,如果能正確打印出最新的版本號(hào),則表明備份文件沒有缺失;如果運(yùn)行報(bào)錯(cuò),則說明備份不完整。我試過如果備份中斷,則運(yùn)行svnlook youngest會(huì)出錯(cuò)。
perl腳本代碼如下:
#! /usr/bin/perl
## Author:xuejiang
## 2007-11-10
## http://www.scmbbs.com
use strict;
use Carp;
use Net::SMTP;
#### defined the var #######
my $smtp =Net::SMTP->new('mail.scmbbs.com', Timeout => 30, Debug => 0)|| die "cann't connect to mail.scmbbs.comn";
my $bkrepos="/home/backup/svn/".&get_day;#定義備份路徑
my $ssrepos="http://www.scmbbs.com/repos";#定義倉(cāng)庫(kù)url
my @repos = ("project1","project2");
my $title="echo "如下是昨晚備份結(jié)果與真實(shí)庫(kù)對(duì)比的情況,如果給出備份版本數(shù),則表示備份成功;如果給報(bào)錯(cuò)信息或沒有備份版本數(shù),則表示備份失敗:" >./report";
system $title || die "exec failedn";
foreach my $myrepos(@repos)
{
my $bkrepos1=$bkrepos."/".$myrepos;
my $ssrepos1=$ssrepos."/".$myrepos;
my $svnlookbk1 = "echo "$myrepos 昨晚備份的版本是:">>./report;svnlook youngest ".$bkrepos1." >> ./report 2>&1";
my $svnlookss1 = "echo "$myrepos 真實(shí)庫(kù)中的最新版本及最后修改時(shí)間是:">>./report;svn log -r'HEAD' ".$ssrepos1." >> ./report 2>&1";
system $svnlookbk1 || die "exec failedn";
system $svnlookss1 || die "exec failedn";
}
my $body ="echo "=========================================================================" >>./report";
my $bottom ="echo "備份位置:來(lái)自http://www.scmbbs.com的".$bkrepos."" >>./report";
system $body || die "exec failedn";
system $bottom || die "exec failedn";
###### report the result ####
open(SESAME,"./report")|| die "can not open ./report";
my @svnnews = <SESAME>;
close(SESAME);
foreach my $line1 (@svnnews)
{
print $line1."n";
}
my @email_addresses =("scm@list.scmbbs.com","leader1@scmbbs.com","leader2@scmbbs.com");
my $to = join(', ', @email_addresses);
$smtp->mail("scm@scmbbs.com");
$smtp->recipient(@email_addresses);
$smtp->data();
$smtp->datasend("Toton");
$smtp->datasend("From: svnReport@scmbbs.comn");
$smtp->datasend("Subject:svn備份檢查報(bào)告".&get_today."n");
$smtp->datasend("Reply-to:scm@scmbbs.comn");
$smtp->datasend("@svnnews");
$smtp->dataend();
$smtp->quit;
#############
sub get_today
{
my( $sec, $min, $hour, $day, $month, $year ) = localtime( time() );
$year += 1900;
$month++;
my $today = sprintf( "%04d%02d%02d", $year, $month, $day);
return $today;
}
sub get_day
{
my( $sec, $min, $hour, $day, $month, $year ) = localtime( time() );
$year += 1900;
$month++;
my $today = sprintf( "%02d%02d", $month, $day);
return $today;
}
4)定義刪除腳本
由于是全量備份,所以備份不宜保留太多,只需要保留最近10來(lái)天的即可,對(duì)于超過15天歷史的備份基本可以刪除了。
在/home/backup/svn/下建立一個(gè)perl腳本:deletDir.pl
(注意,刪除svn備份庫(kù)可不像刪除普通文件那么簡(jiǎn)單)
腳本代碼請(qǐng)參看我的另一個(gè)帖子:http://www.scmbbs.com/cn/systp/2007/12/systp6.php
5)修改/etc/crontab 文件
在該文件中指定每晚21點(diǎn)執(zhí)行“backup.sh”腳本。
3、svnsync備份
-----------------------
參閱:http://www.scmbbs.com/cn/svntp/2007/11/svntp4.php
使用svnsync備份很簡(jiǎn)單,步驟如下:
1)在備份機(jī)上創(chuàng)建一個(gè)空庫(kù):svnadmin create Project1
2)更改該庫(kù)的鉤子腳本pre-revprop-change(因?yàn)閟vnsync要改這個(gè)庫(kù)的屬性,也就是要將源庫(kù)的屬性備份到這個(gè)庫(kù),所以要啟用這個(gè)腳本):
cd SMP/hooks;
cp pre-revprop-change.tmpl pre-revprop-change;
chmod 755 pre-revprop-change;
vi pre-revprop-change;
將該腳本后面的三句注釋掉,或者干脆將它弄成一個(gè)空文件。
3)初始化,此時(shí)還沒有備份任何數(shù)據(jù):
svnsync init file:///home/backup/svn/svnsync/Project1/ http://svntest.subversion.com/repos/Project1
語(yǔ)法是:svnsync init {你剛創(chuàng)建的庫(kù)url} {源庫(kù)url}
注意本地url是三個(gè)斜杠的:///
4)開始備份(同步):
svnsync sync file:///home/backup/svn/svnsync/Project1
5)建立同步腳本
備份完畢后,建立鉤子腳本進(jìn)行同步。在源庫(kù)/hooks/下建立/修改post-commit腳本,在其中增加一行,內(nèi)容如下:
/usr/bin/svnsync sync --non-interactive file:///home/backup/svn/svnsync/Project1
你可能已經(jīng)注意到上面的備份似乎都是本地備份,不是異地備份。實(shí)際上,我是通過將遠(yuǎn)程的備份機(jī)mount(請(qǐng)參閱mount命令)到svn服務(wù)器上來(lái)實(shí)現(xiàn)的,邏輯上看起來(lái)是本地備份,物理上實(shí)際是異地備份。