Posted on 2011-12-01 21:02
dennis 閱讀(10533)
評論(0) 編輯 收藏 所屬分類:
my open-source 、
Hadoop與分布式 、
Clojure
所謂兵馬未動，糧草先行，準備將
storm用在某個項目中做實時數據分析。無論任何系統，一定要有監控系統并存，當故障發生的時候你能第一個知道，而不是讓別人告訴你，那處理故障就很被動了。
因此我寫了這么個項目，取名叫storm-monitor，放在了github上
https://github.com/killme2008/storm-monitor 主要功能如下：
1.監控supervisor數目是否正確，當supervisor掛掉的時候會發送警告。
2.監控nimbus是否正常運行，monitor會嘗試連接nimbus，如果連接失敗就認為nimbus掛掉。
3.監控topology是否正常運行，包括它是否正常部署，是否有運行中的任務。
當故障發生的時候通過alarm方法警告用戶，開放出去的只是簡單地打日志。因為每個公司的告警接口不一樣，所以你需要自己擴展，修改alarm.clj即可。我們這兒就支持旺旺告警和手機短信告警。
基本的原理很簡單，對supervisor和topology的監控是通過zookeeper來間接地監控，通過定期查看path是否存在。對nimbus的監控是每次起一個短連接連上去，連不上去即認為掛掉。
整個項目也是用clojure寫。你的機器需要安裝
lein和
exec插件，然后將你的storm.yaml拷貝到conf目錄下，編輯monitor.yaml設定監控參數如檢查間隔等，最后啟動start.sh腳本即可。默認日志輸出在logs/monitor.log。