# 用 Docker 手动部署
本文描述了如何用 Docker 运行 HStreamDB 集群。
注意
本教程只展示了用 Docker 启动 HStreamDB 集群的主要过程。参数的配置没有考虑到任何安全问题,所以请 请不要在部署时直接使用它们
# 设置一个 ZooKeeper 集群
HServer
和 HStore
需要 ZooKeeper 来存储一些元数据,所以首先我们需要配置一个 ZooKeeper 集群。
你可以在网上找到关于如何建立一个合适的 ZooKeeper 集群的教程。
这里我们只是通过 docker 快速启动一个单节点的 ZooKeeper 为例。
docker run --rm -d --name zookeeper --network host zookeeper
# 在存储节点上创建数据文件夹
存储节点会把数据存储分片(Shard)中。通常情况下,每个分片映射到不同的物理磁盘。 假设你的数据盘被挂载(mount)在/mnt/data0
上
# creates the root folder for data
sudo mkdir -p /data/logdevice/
# writes the number of shards that this box will have
echo 1 | sudo tee /data/logdevice/NSHARDS
# creates symlink for shard 0
sudo ln -s /mnt/data0 /data/logdevice/shard0
# adds the user for the logdevice daemon
sudo useradd logdevice
# changes ownership for the data directory and the disk
sudo chown -R logdevice /data/logdevice/
sudo chown -R logdevice /mnt/data0/
2
3
4
5
6
7
8
9
10
11
12
13
14
15
- See Create data folders (opens new window) for details
# 创建配置文件
这里是一个配置文件的最小示例。
在使用它之前,请根据你的情况进行修改。
{
"server_settings": {
"enable-nodes-configuration-manager": "true",
"use-nodes-configuration-manager-nodes-configuration": "true",
"enable-node-self-registration": "true",
"enable-cluster-maintenance-state-machine": "true"
},
"client_settings": {
"enable-nodes-configuration-manager": "true",
"use-nodes-configuration-manager-nodes-configuration": "true",
"admin-client-capabilities": "true"
},
"cluster": "logdevice",
"internal_logs": {
"config_log_deltas": {
"replicate_across": {
"node": 3
}
},
"config_log_snapshots": {
"replicate_across": {
"node": 3
}
},
"event_log_deltas": {
"replicate_across": {
"node": 3
}
},
"event_log_snapshots": {
"replicate_across": {
"node": 3
}
},
"maintenance_log_deltas": {
"replicate_across": {
"node": 3
}
},
"maintenance_log_snapshots": {
"replicate_across": {
"node": 3
}
}
},
"metadata_logs": {
"nodeset": [],
"replicate_across": {
"node": 3
}
},
"zookeeper": {
"zookeeper_uri": "ip://10.100.2.11:2181",
"timeout": "30s"
}
}
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
如果你有一个多节点的 ZooKeeper,修改
zookeeper_uri
部分为 ZooKeeper 集群的节点和端口列表:"zookeeper": { "zookeeper_uri": "ip://10.100.2.11:2181,10.100.2.12:2181,10.100.2.13:2181", "timeout": "30s" }
1
2
3
4所有属性的详细解释可以在集群配置 (opens new window) 文档中找到。
# 存储配置文件
你可以将配置文件存储在 ZooKeeper 中,或存储在每个存储节点上。
# 在 ZooKeeper 中存储配置文件
假设你的一个 ZooKeeper 节点上有一个路径为 ~/logdevice.conf
的配置文件。
通过运行以下命令将配置文件保存到 ZooKeeper 中:
docker exec zookeeper zkCli.sh create /logdevice.conf "`cat ~/logdevice.conf`"
通过以下命令验证创建是否成功:
docker exec zookeeper zkCli.sh get /logdevice.conf
# 配置 HStore 集群
对于存储在 ZooKeeper 中的配置文件,假设配置文件中 zookeeper_uri
字段的值是 "ip:/10.100.2.11:2181"
,ZooKeeper中配置文件的路径是 /logdevice.conf
。
对于存储在每个节点上的配置文件,假设你的文件路径是 `/data/logdevice/logdevice.conf'。
# 在单个节点上启动 admin 服务器
配置文件存储在 ZooKeeper 中:
docker run --rm -d --name storeAdmin --network host -v /data/logdevice:/data/logdevice \ hstreamdb/hstream:v0.11.0 /usr/local/bin/ld-admin-server \ --config-path zk:10.100.2.11:2181/logdevice.conf \ --enable-maintenance-manager \ --maintenance-log-snapshotting \ --enable-safety-check-periodic-metadata-update
1
2
3
4
5
6- 如果你有一个多节点的 ZooKeeper,请将
--config-path
替换为:--config-path zk:10.100.2.11:2181,10.100.2.12:2181,10.100.2.13:2181/logdevice.conf
- 如果你有一个多节点的 ZooKeeper,请将
存储在每个节点的配置文件:
更改
--config-path
参数为--config-path /data/logdevice/logdevice.conf
# 在每个节点上启动 logdeviced
存储在 ZooKeeper 中的配置文件:
docker run --rm -d --name hstore --network host -v /data/logdevice:/data/logdevice \ hstreamdb/hstream:v0.11.0 /usr/local/bin/logdeviced \ --config-path zk:10.100.2.11:2181/logdevice.conf \ --name store-0 \ --address 192.168.0.3 \ --local-log-store-path /data/logdevice
1
2
3
4
5
6- 对于每个节点,你应该将
--name
更新为一个不同的值,并将--address
更新为该节点的 IP 地址。
- 对于每个节点,你应该将
存储在每个节点的配置文件:
更改
--config-path
参数为--config-path /data/logdevice/logdevice.conf
# Bootstrap 集群
在启动管理服务器和每个存储节点的 logdeviced 之后,现在我们可以 bootstrap 我们的集群。
在管理服务器节点上,运行。
docker exec storeAdmin hadmin store nodes-config bootstrap --metadata-replicate-across 'node:3'
你应该看到像这样的信息:
Successfully bootstrapped the cluster, new nodes configuration version: 7
Took 0.019s
2
你可以通过运行以下命令来检查集群的状态:
docker exec storeAdmin hadmin store status
而结果应该是:
+----+---------+----------+-------+-----------+---------+---------------+
| ID | NAME | PACKAGE | STATE | UPTIME | SEQ. | HEALTH STATUS |
+----+---------+----------+-------+-----------+---------+---------------+
| 0 | store-0 | 99.99.99 | ALIVE | 2 min ago | ENABLED | HEALTHY |
| 1 | store-2 | 99.99.99 | ALIVE | 2 min ago | ENABLED | HEALTHY |
| 2 | store-1 | 99.99.99 | ALIVE | 2 min ago | ENABLED | HEALTHY |
+----+---------+----------+-------+-----------+---------+---------------+
Took 7.745s
2
3
4
5
6
7
8
现在我们完成了对 HStore
集群的设置。
# 配置 HServer 集群
要启动一个单一的 HServer
实例,你可以修改启动命令以适应你的情况。
docker run -d --name hstream-server --network host \
hstreamdb/hstream:v0.11.0 /usr/local/bin/hstream-server \
--bind-address $SERVER_HOST \
--advertised-address $SERVER_HOST \
--seed-nodes $SERVER_HOST \
--metastore-uri zk://$ZK_ADDRESS \
--store-config zk:$ZK_ADDRESS/logdevice.conf \
--store-admin-host $ADMIN_HOST \
--replicate-factor 3 \
--server-id 1
2
3
4
5
6
7
8
9
10
$SERVER_HOST
:你的服务器节点的主机 IP 地址,例如192.168.0.1
。metastore-uri
: 你的元信息存储 HMeta 地址,例如使用zk://$ZK_ADDRESS
指定 zookeeper 存储元数据。同时实现性支持使用 rqliterq://$RQ_ADDRESS
。$ZK_ADDRESS
:你的 ZooKeeper 集群地址列表,例如10.100.2.11:2181,10.100.2.12:2181,10.100.2.13:2181
。--store-config
:你的HStore
配置文件的路径。应该与启动HStore
集群--config-path
参数的值一致。--store-admin-host
:HStore Admin Server
节点的 IP 地址。--server-id
:你应该为每个服务器实例设置一个的唯一标识符
你可以以同样的方式在不同的节点上启动多个服务器实例。