日期:2014-05-16 浏览次数:20769 次
这几天看到hbase 0.90刚刚发布,于是研究了下Master的代码,这里做下记录分享,hbase的背景,可以了解下bigtable。hbase用到了很多zookeeper的技术,zookeeper这里不做展开,我也不太熟悉,感兴趣的可以自行了解下,也可以参考chubby。HMaster是整个hbase中,负载较低的一个服务,他通过zookeeper负责整个集群region和regionserver的监控,负载均衡,以及 backup master,日志管理等功能。
1. 创建RPC服务:
a) 创建Listener,主要负责为处理线程创建job,该Listener会创建读取线程(Reader),线程个数为ipc.server.read.threadpool.size,Reader判断Selector中是否有数据,如果有,则把数据读出,然后加入到call队列或者优先队列中。
b)
创建HbaseRpcMetric,负责统计数据收集 c) 创建Responder,responder负责将服务端的reponser数据异步写给客户端
2.启动处理线程组(分为一般的处理线程组和优先的处理线程组,代码上没看到区别),每一个线程组从call队列中读取数据,并调用对应的call方法(具体由客户端设定),处理完以后把每一个call的处理结果加入到responder会处理的responseQueue队列中
3.
4.
1.基于ZooKeeperWatcher创建一个ActiveMasterManager,加入到zookeeper的listener队列中,用于监视zookeeper节点状态
2. 如果是备份节点
a) 通过zookeeper监控节点状态,去写master的地址到zookeeper节点:
b) 如果写失败,则说明当前有别的master,则一直等,直到zookeeper通知master节点状态发生变化;
c) 如果写成功,则备份节点成为主节点
3.
4.在成为主master之前,初始化master的剩余几个类,以及启动一些服务,这是master启动逻辑最复杂的那部分,finishInitialization:
a)fileSystemManager:
i. 判断HBASE_ROOT有效性,等待HDFS退出safemode
ii.如果HBASE_ROOT不存在,则创建他,并写入version,如果存在,则判断version是否和本master启动一致
iii. 如果HBASE_ROOT下不存在root region,那么创建root和meta两个region
iv. 创建rootregion是创建regionId为0的region,这个region只负责root表的数据,他的列只有info
v. 初始化region,1)首先判断region对应的.Regioninfo文件是否存在,如果大小非0,那么就认为已经写过regioninfo,否则写regioninfo数据,接着清除临时目录,2)接着对每一个ColumnFamily初始化Store(Store我们到介绍region的时候详细介绍,这里可以简单地理解为是一个映射表),3)根据初始化Store时读到的maxSeqId,来进行日志回放,每一个RegionServer对应一个日志文件,这里我们也不进行深入展开,4)把上次遗留的split文件清理掉,以及compaction时的merger目录也删除掉
vi. 创建meta region,第一个meta region id为1,初始化过程和5一样
vii. 把meta信息加入到root表中
viii. 关闭root region和meta region
b) Hconnection:
i. 从一个LRU的conf hashcode=>TableServer的HashMap中获取Hconnection,如果HashMap中没有,则创建并加入到map中,创建过程如下:
ii. 从conf中读取一些客户端参数
iii.设置zooKeeperTrackers
,包括一个zookeeperWatcher,master节点的地址监控tracker,rootregion的地址监控tracker
c)ExecutorService:
i. 执行器服务,概括为一个线程池,一个Event队列,以及处理这个队列的处理器
d) ServerManger:
i.
管理region server的信息,HserverInfo,负载,以及死的server。 ii. 他维护在线和离线的server,处理region server的启动和关闭
e)
i. 创建root region 的地址监控tracker,meta region的地址监控tracker,并启动他俩
f)
i. 用于管理region的分配
g)
i. 启动通过zookeerper跟踪在线的region server
h)ClusterStatusTracker:
i. 跟踪集群状态,并设置集群状态为up,在这之前如果有regionserver启动,则regionserver会一直处于等待状态
i)启动ExecutorService的不同服务,用于接收不同的请求类型:
i.
MASTER_OPEN_REGION ii. MASTER_CLOSE_REGION
iii. MASTER_SERVER_OPERATIONS
iv. MASTER_META_SERVER_OPERATIONS
v. MASTER_TABLE_OPERATIONS
vi. LogCleaner
vii. InfoServer:一个httpSever
viii. RPCServer