? ? ? 在實(shí)際生產(chǎn)開發(fā)中，遇到一些多節(jié)點(diǎn)共存，需要選主，并且要實(shí)現(xiàn)HA自動容錯的場景，思考了寫方法拿出來和大家分享一下。
?
- Lease協(xié)議，Mysql ACID
- 高可用選主方案設(shè)計(jì)
- 適用場景
- Java語言實(shí)現(xiàn)描述
- 進(jìn)一步優(yōu)化
? ? ? 系統(tǒng)中有很多應(yīng)用場景要類似主從架構(gòu)，主服務(wù)器(Master)對外提供服務(wù)，從服務(wù)器(Salve)熱備份，不提供服務(wù)但隨時活著，如果Master出現(xiàn)宕機(jī)或者網(wǎng)絡(luò)問題，Slave即可接替Master對外服務(wù)，并由Slave提升為Master(新主)。典型的多節(jié)點(diǎn)共存， 但只能同時存在一個主，并且所有節(jié)點(diǎn)的狀態(tài)能統(tǒng)一維護(hù) 。
? ? ? 大家一定首先想到了著名的Paxos算法( http://baike.baidu.com/view/8438269.htm )。簡單的說，Paxos通過每個節(jié)點(diǎn)的投票算法，來決議一個事情，當(dāng)多余1/2個節(jié)點(diǎn)都投票通過時，Paxos產(chǎn)生一個唯一結(jié)果的決議，并通知各個節(jié)點(diǎn)維護(hù)這個信息。例如Paxos的選主，首先產(chǎn)生一個關(guān)于某個節(jié)點(diǎn)希望當(dāng)Master的投票，然后各個節(jié)點(diǎn)給出反饋，最終Paxos集群維護(hù)唯一的Master的結(jié)論。Zookeeper就是Paxos的一種實(shí)現(xiàn)。這種場景最適合用zookeeper來選主， 但zookeeper有個明顯的缺點(diǎn)，當(dāng)存活的節(jié)點(diǎn)小于zookeeper集群的1/2時，就不能工作了。比如zk有10各節(jié)點(diǎn)，那么必須滿足可用的節(jié)點(diǎn)大于5才可。
? ? ? 在實(shí)際環(huán)境中，如果對Master要求不是那么嚴(yán)格的話，可以通過某些改進(jìn)和取舍來達(dá)到目的。比如可能在秒級別允許Master暫時不能訪問、選主時間內(nèi)可能存在一定的沖突但通過再次選主即可。本人設(shè)計(jì)了一個簡易的利用Mysql一致性和簡易版Lease來workaround。
Mysql ACID保證了一條數(shù)據(jù)記錄的一致性、完整性，不會出現(xiàn)多進(jìn)程讀寫的一致性問題和唯一正確性。Lease協(xié)議(協(xié)議細(xì)節(jié)可以Google之)通過向Master發(fā)送一個lease(租期)包，Master在這個lease期之內(nèi)充當(dāng)主角色，如果lease期到了則再次去申請lease，如果lease期到了，但是網(wǎng)絡(luò)除了問題，這時Master可以i主動下線，讓其他節(jié)點(diǎn)去競選Master。舉個例子，三個節(jié)點(diǎn)A、B、C經(jīng)過第一輪選主之后，A成為Master，它獲得了10秒的lease，當(dāng)前時間假設(shè)是00:00:00，那么它Master地位可以用到00:00:10，當(dāng)時間到達(dá)00:00:10時，A、B、C會重新進(jìn)行Master選舉，每個節(jié)點(diǎn)都有可能成為Master(從工程的角度觸發(fā)，A繼續(xù)為Master的概率更大)，如果這時候A的網(wǎng)絡(luò)斷了，不能聯(lián)通B、C的集群了， 那么A會自動下線，不會去競爭，這樣就不會出現(xiàn)“腦裂”的現(xiàn)象。
? ? ??
? ? ? ?---------------------------------------------- 華麗的分割線 ----------------------------------------------
? ? ??
? ? ? ? 設(shè)計(jì)方案如下：(server代表集群中的一臺機(jī)器，也可看作一個進(jìn)程，server之間是平等的)
?
-
各個server之間用ntpserver時間同步(保證服務(wù)器之間秒級同步即可)
-
各個server持有一個唯一ID號(ip+進(jìn)程號)，通過此id唯一標(biāo)識一個server實(shí)例
-
各個server定義一個lease租期，單位為秒
-
Mysql唯一表唯一一條記錄維護(hù)全局Master的信息，ACID保證一致性
-
Master Server每半個lease期向Mysql更新如上的唯一一條記錄，并更新心跳，維護(hù)Master狀態(tài)
- Slaver Server每半個lease周期從mysql獲取Master Server信息，如果數(shù)據(jù)庫中Master的Lease超過了當(dāng)前時間(heartbeat_time+ lease > current_time)，則申請當(dāng)Master。
?
? ? ? 這其中比較棘手的問題是：
? ? ? ? 1、由于數(shù)據(jù)庫訪問和休眠的時間(lease的一半)，有時延的存在，要處理Mysql異常、網(wǎng)絡(luò)異常。
? ? ? ? 2、可能存在同時搶占Master的server，這個時候就需要一個驗(yàn)證機(jī)制保證為搶到Master的server自動退位為Slaver
? ? ? 下面給出圖實(shí)例 ：（10.0.0.1為Master）
? ? ?10.0.0.1 crash了。mysql中維護(hù)的10.0.0.1的主信息已過期，其他節(jié)點(diǎn)去搶占
? ? ? 各個節(jié)點(diǎn)再次讀取數(shù)據(jù)庫，查看是否是自己搶占成功了：
之后，10.0.0.3作為Master對外服務(wù)。此時如果10.0.0.1重啟，可作為Slaver。如果10.0.0.1因?yàn)榫W(wǎng)絡(luò)分化或者網(wǎng)絡(luò)異常而不能維護(hù)心跳，則在超過自身lease時自動停止服務(wù)，不會出現(xiàn)“雙Master”的現(xiàn)象。
? ? ? 每個Server遵循如下流程：
? ? ? ? 數(shù)據(jù)庫設(shè)計(jì)：
? ? ? ? 某一時刻，數(shù)據(jù)庫中Master的信息：
?
?
? ? ? ?當(dāng)前時間： 45分15秒
? ? ? ?當(dāng)前Master Lease ：6秒
? ? ? ?當(dāng)前Master Lease可用到： 45分21秒
??
? ? ? ?---------------------------------------------- 華麗的分割線?----------------------------------------------
? ? ? ?3、適用的場景
? ? ? ? 一 、生命周期內(nèi)可使用Mysql、并且各個server之間時間同步。
? ? ? ? 二、需要集群中選出唯一主對外提供服務(wù)，其他節(jié)點(diǎn)作為slaver做standby，主lease過期時競爭為Master
? ? ? ? 三、對比zookeeper，可滿足如果集群掛掉一半節(jié)點(diǎn)，也可正常工作的情況，比如只有一主一備。
? ? ? ? 四、允許選主操作在秒級容錯的系統(tǒng)，選主的時候可能有l(wèi)ease/2秒的時間窗口，此時服務(wù)可能不可用。
?
? ? ? ? 五、允許lease/2秒內(nèi)出現(xiàn)極限雙Master情況，但是概率很小。
? ? ? ? ---------------------------------------------- 華麗的分割線?----------------------------------------------
? ? ? ? 4、Java語言實(shí)現(xiàn)描述
?
一些配置信息和時間相關(guān)、休眠周期相關(guān)的時間變量
final long interval = lease / intervalDivisor;
long waitForLeaseChallenging = 0L;
lease = lease / 1000L;
long challengeFailTimes = 0L;
long takeRest = 0L;
long dbExceptionTimes = 0L;
long offlineTime = 0L;
Random rand = new Random();
Status stateMechine = Status.START;
long activeNodeLease = 0L;
long activeNodeTimeStamp = 0L;
? ? ? ? 數(shù)據(jù)庫異常的處理：
?
?
KeepAlive keepaliveNode = null;
try {
/* first of all get it from mysql */
keepaliveNode = dbService.accquireAliveNode();
if (stateMechine != Status.START && keepaliveNode==null)
throw new Exception();
// recount , avoid network shake
dbExceptionTimes = 0L;
} catch (Exception e) {
log.fatal("[Scanner] Database Exception with times : " + dbExceptionTimes++);
if (stateMechine == Status.OFFLINE) {
log.warn("[Scanner] Database Exception , OFFLINE ");
} else if (dbExceptionTimes >= 3) {
log.fatal("[Scanner] Database Exception , Node Offline Mode Active , uniqueid : " + uniqueID);
stateMechine = Status.OFFLINE;
dbExceptionTimes = 0L;
offlineTime = System.currentTimeMillis();
online = false;
} else
continue;
}
? ? ? ? 總的循環(huán)和狀態(tài)機(jī)的變遷：
?
?
while (true) {
SqlSession session = dbConnecction.openSession();
ActionScanMapper dbService = session.getMapper(ActionScanMapper.class);
KeepAlive keepaliveNode = null;
try {
/* first of all get it from mysql */
keepaliveNode = dbService.accquireAliveNode();
if (stateMechine != Status.START && keepaliveNode==null)
throw new Exception();
// recount , avoid network shake
dbExceptionTimes = 0L;
} catch (Exception e) {
log.fatal("[Scanner] Database Exception with times : " + dbExceptionTimes++);
if (stateMechine == Status.OFFLINE) {
log.warn("[Scanner] Database Exception , OFFLINE ");
} else if (dbExceptionTimes >= 3) {
log.fatal("[Scanner] Database Exception , Node Offline Mode Active , uniqueid : " + uniqueID);
stateMechine = Status.OFFLINE;
dbExceptionTimes = 0L;
offlineTime = System.currentTimeMillis();
online = false;
} else
continue;
}
try {
activeNodeLease = keepaliveNode!=null ? keepaliveNode.getLease() : activeNodeLease;
activeNodeTimeStamp = keepaliveNode!=null ? keepaliveNode.getTimestamp() : activeNodeTimeStamp;
takeRest = interval;
switch (stateMechine) {
case START:
if (keepaliveNode == null) {
log.fatal("[START] Accquire node is null , ignore ");
// if no node register here , we challenge it
stateMechine = Status.CHALLENGE_REGISTER;
takeRest = 0;
} else {
// check the lease , wether myself or others
if (activeNodeLease < timestampGap(activeNodeTimeStamp)) {
log.warn("[START] Lease Timeout scanner for uniqueid : " + uniqueID + ", timeout : "
+ timestampGap(activeNodeTimeStamp));
if (keepaliveNode.getStatus().equals(STAT_CHALLENGE))
stateMechine = Status.HEARTBEAT;
else {
stateMechine = Status.CHALLENGE_MASTER;
takeRest = 0;
}
} else if (keepaliveNode.getUniqueID().equals(uniqueID)) {
// I'am restart
log.info("[START] Restart Scanner for uniqueid : " + uniqueID
+ ", timeout : " + timestampGap(activeNodeTimeStamp));
stateMechine = Status.HEARTBEAT;
} else {
log.info("[START] Already Exist Keepalive Node with uniqueid : " + uniqueID);
stateMechine = Status.HEARTBEAT;
}
}
break;
case HEARTBEAT:
/* uniqueID == keepaliveNode.uniqueID */
if (keepaliveNode.getUniqueID().equals(uniqueID)) {
if (activeNodeLease < timestampGap(activeNodeTimeStamp)) {
// we should challenge now , without nessesary to checkout Status[CHALLENGE]
log.warn("[HEARTBEAT] HEART BEAT Lease is timeout for uniqueid : " + uniqueID
+ ", time : " + timestampGap(activeNodeTimeStamp));
stateMechine = Status.CHALLENGE_MASTER;
takeRest = 0;
break;
} else {
// lease ok , just update mysql keepalive status
dbService.updateAliveNode(keepaliveNode.setLease(lease));
online = true;
log.info("[HEARTBEAT] update equaled keepalive node , uniqueid : " + uniqueID
+ ", lease : " + lease + "s, remain_usable : " +
((activeNodeTimeStamp * 1000L + lease * 1000L) - System.currentTimeMillis()) + " ms");
}
} else {
/* It's others , let's check lease */
if (activeNodeLease < timestampGap(activeNodeTimeStamp)) {
if (keepaliveNode.getStatus().equals(STAT_CHALLENGE)) {
waitForLeaseChallenging = (long) (activeNodeLease * awaitFactor);
if ((waitForLeaseChallenging) < timestampGap(activeNodeTimeStamp)) {
log.info("[HEARTBEAT] Lease Expired , Diff[" + timestampGap(activeNodeTimeStamp) + "] , Lease[" + activeNodeLease + "]");
stateMechine = Status.CHALLENGE_MASTER;
takeRest = 0;
} else {
log.info("[HEARTBEAT] Other Node Challenging , We wait for a moment ...");
}
} else {
log.info("[HEARTBEAT] Lease Expired , Diff[" + timestampGap(activeNodeTimeStamp) + "] , lease[" + activeNodeLease + "]");
stateMechine = Status.CHALLENGE_MASTER;
takeRest = 0;
}
} else {
online = false;
log.info("[HEARTBEAT] Exist Active Node On The Way with uniqueid : "
+ keepaliveNode.getUniqueID() + ", lease : " + keepaliveNode.getLease());
}
}
break;
case CHALLENGE_MASTER:
dbService.challengeAliveNode(new KeepAlive().setUniqueID(uniqueID).setLease(lease));
online = false;
// wait for the expired node offline automatic
// and others also have changce to challenge
takeRest = activeNodeLease;
stateMechine = Status.CHALLENGE_COMPLETE;
log.info("[CHALLENGE_MASTER] Other Node is timeout["
+ timestampGap(activeNodeTimeStamp) + "s] , I challenge with uniqueid : " + uniqueID
+ ", lease : " + lease + ", wait : " + lease);
break;
case CHALLENGE_REGISTER:
dbService.registerNewNode(new KeepAlive().setUniqueID(uniqueID).setLease(lease));
online = false;
// wait for the expired node offline automatic
// and others also have changce to challenge
takeRest = activeNodeLease;
stateMechine = Status.CHALLENGE_COMPLETE;
log.info("[CHALLENGE_REGISTER] Regiter Keepalive uniqueid : " + uniqueID + ", lease : " + lease);
break;
case CHALLENGE_COMPLETE :
if (keepaliveNode.getUniqueID().equals(uniqueID)) {
dbService.updateAliveNode(keepaliveNode.setLease(lease));
online = true;
log.info("[CHALLENGE_COMPLETE] I Will be the Master uniqueid : " + uniqueID);
// make the uptime correct
stateMechine = Status.HEARTBEAT;
} else {
online = false;
log.warn("[CHALLENGE_COMPLETE] So unlucky , Challenge Failed By Other Node with uniqueid : " + keepaliveNode.getUniqueID());
if (challengeFailTimes++ >= (rand.nextLong() % maxChallenge) + minChallenge) {
// need't challenge anymore in a long time
takeRest=maxChallengeAwaitInterval;
stateMechine = Status.HEARTBEAT;
challengeFailTimes = 0L;
log.info("[CHALLENGE_COMPLETE] Challenge Try Times Used Up , let's take a long rest !");
} else {
stateMechine = Status.HEARTBEAT;
log.info("[CHALLENGE_COMPLETE] Challenge Times : " + challengeFailTimes + ", Never Give Up , to[" + stateMechine + "]");
}
}
break;
case OFFLINE :
log.fatal("[Scanner] Offline Mode Node with uniqueid : " + uniqueID);
if (System.currentTimeMillis() - offlineTime >= maxOfflineFrozen) {
// I am relive forcely
log.info("[Scanner] I am relive to activie node , uniqueid : " + uniqueID);
stateMechine = Status.HEARTBEAT;
offlineTime = 0L;
} else if (keepaliveNode != null) {
// db is reconnected
stateMechine = Status.HEARTBEAT;
offlineTime = 0L;
log.info("[Scanner] I am relive to activie node , uniqueid : " + uniqueID);
}
break;
default :
System.exit(0);
}
session.commit();
session.close();
if (takeRest != 0)
Thread.sleep(takeRest);
log.info("[Scanner] State Stage [" + stateMechine + "]");
} catch (InterruptedException e) {
log.fatal("[System] Thread InterruptedException : " + e.getMessage());
} finally {
log.info("[Scanner] UniqueID : " + uniqueID + ", Mode : " + (online?"online":"offline"));
}
}
}
enum Status {
START, HEARTBEAT, CHALLENGE_MASTER, CHALLENGE_REGISTER, CHALLENGE_COMPLETE, OFFLINE
}
?
?
?
?
更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主
微信掃碼或搜索：z360901061
微信掃一掃加我為好友
QQ號聯(lián)系： 360901061
您的支持是博主寫作最大的動力，如果您喜歡我的文章，感覺我的文章對您有幫助，請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧，狠狠點(diǎn)擊下面給點(diǎn)支持吧，站長非常感激您！手機(jī)微信長按不能支付解決辦法：請將微信支付二維碼保存到相冊，切換到微信，然后點(diǎn)擊微信右上角掃一掃功能，選擇支付二維碼完成支付。
【本文對您有幫助就好】元
