摘要：安裝配置安裝上傳安裝如果缺少依賴，注解是由于沒使用，所以必須在里配置這個參數，才能訪問。但是由于國內對國外網絡訪問的不可靠以及為了速度上的優化和管理上的方便，我們選擇自己搭建一個私有的倉庫，也就是。

上傳二進制文件

tar -zxvf flannel-v0.8.0-rc1-linux-amd64.tar.gz
cp flanneld /usr/bin/
cp mk-docker-opts.sh /usr/bin/

清除網絡中遺留的docker 網絡 (docker0, flannel0 等)

ifconfig

如果存在 請刪除，以免發生不必要的未知錯誤

ip link delete docker0

使用動態CA配置
update-ca-trust force-enable

拷貝ca根證書到指定目錄
cp /etc/kubernetes/ssl/ca.pem /etc/pki/ca-trust/source/anchors/

生效
update-ca-trust extract

etcd節點執行

etcdctl --endpoint https://192.168.116.123:2379 set /flannel/network/config "{"Network":"10.254.0.0/16"}"

設置flanneld.service

vi /usr/lib/systemd/system/flanneld.service
[Unit]
Description=Flanneld overlay address etcd agent
After=network.target
After=network-online.target
Wants=network-online.target
After=etcd.service
Before=docker.service
    
[Service]
Type=notify
EnvironmentFile=/etc/sysconfig/flanneld
EnvironmentFile=-/etc/sysconfig/docker-network
ExecStart=/usr/bin/flanneld-start $FLANNEL_OPTIONS
ExecStartPost=/usr/bin/mk-docker-opts.sh -k DOCKER_NETWORK_OPTIONS -d /run/flannel/docker
Restart=on-failure
[Install]
WantedBy=multi-user.target
RequiredBy=docker.service

vi /etc/sysconfig/flanneld

修改如下信息：

FLANNEL_ETCD_ENDPOINTS="https://192.168.116.123:2379"
FLANNEL_ETCD_PREFIX="/flannel/network"
FLANNEL_OPTIONS="--iface=eno1"

eno1為物理網卡的網卡名

vi /etc/sysconfig/docker-network

DOCKER_NETWORK_OPTIONS=

可以為空

vi /usr/bin/flanneld-start

#!/bin/sh

exec /usr/bin/flanneld 
        -etcd-endpoints=${FLANNEL_ETCD_ENDPOINTS:-${FLANNEL_ETCD}} 
        -etcd-prefix=${FLANNEL_ETCD_PREFIX:-${FLANNEL_ETCD_KEY}} 
        "$@"

賦執行權限

chmod +x /usr/bin/flanneld-start

確保docker已停止

systemctl stop docker

啟動flanneld服務

systemctl daemon-reload 
systemctl enable flanneld
systemctl start flanneld

查看flannel

ip a

docker0應該和flannel0在同一ip段，且兩臺機器間的docker0地址可以相互ping通。

上傳

docker-ce-17.03.1.ce-1.el7.centos.x86_64.rpm docker-ce-selinux-17.03.1.ce-1.el7.centos.noarch.rpm

安裝

rpm -ivh docker-ce-17.03.1.ce-1.el7.centos.x86_64.rpm docker-ce-selinux-17.03.1.ce-1.el7.centos.noarch.rpm

如果缺少依賴，

yum localinstall docker-ce-17.03.1.ce-1.el7.centos.x86_64.rpm docker-ce-selinux-17.03.1.ce-1.el7.centos.noarch.rpm

vi /usr/lib/systemd/system/docker.service

[Unit]
Description=Docker Application Container Engine
Documentation=https://docs.docker.com
After=network-online.target firewalld.service
Wants=network-online.target

[Service]
Type=notify
ExecStart=/usr/bin/dockerd --insecure-registry=192.168.116.123:80 $DOCKER_NETWORK_OPTIONS
ExecReload=/bin/kill -s HUP $MAINPID
LimitNOFILE=infinity
LimitNPROC=infinity
LimitCORE=infinity
TimeoutStartSec=0
Delegate=yes
KillMode=process
Restart=on-failure
StartLimitBurst=3
StartLimitInterval=60s

[Install]
WantedBy=multi-user.target

注解：--insecure-registry=192.168.116.123:80 是由于Harbor沒使用https，所以必須在docker里配置這個參數，才能訪問Harbor。

mkdir –p /usr/lib/systemd/system/docker.service.d
cd /usr/lib/systemd/system/docker.service.d

mk-docker-opts.sh -i

source /run/flannel/subnet.env 

vi /usr/lib/systemd/system/docker.service.d/flannel.conf
[Service]
EnvironmentFile=-/run/flannel/docker

systemctl daemon-reload
systemctl enable docker
systemctl start docker

docker-compose-Linux-x86_64
harbor-offline-installer-v1.1.1.tgz
pod-infrastructure.tar

cp docker-compose-Linux-x86_64 /usr/bin/docker-compose
chmod +x /usr/bin/docker-compose
tar -xzvf harbor-offline-installer-v1.1.1.tgz

cd harbor
vi harbor.cfg

我這里Harbor沒有配置Https，所以只需要修改 hostname為Harbor所在主機的ip即可，我Harbor是裝在master上，所以
hostname=192.168.116.123

cd /root/harbor
./install.sh

cd /root/harbor/
docker-compose stop
docker-compose up –d

查看docker-compose ps

[root@master-123 harbor]# docker-compose ps

       Name                     Command               State                                Ports                               
------------------------------------------------------------------------------------------------------------------------------
harbor-adminserver   /harbor/harbor_adminserver       Up                                                                       
harbor-db            docker-entrypoint.sh mysqld      Up      3306/tcp                                                         
harbor-jobservice    /harbor/harbor_jobservice        Up                                                                       
harbor-log           /bin/sh -c crond && rm -f  ...   Up      127.0.0.1:1514->514/tcp                                          
harbor-ui            /harbor/harbor_ui                Up                                                                       
nginx                nginx -g daemon off;             Up      0.0.0.0:443->443/tcp, 0.0.0.0:4443->4443/tcp, 0.0.0.0:80->80/tcp 
registry             /entrypoint.sh serve /etc/ ...   Up      5000/tcp                                                         

我對flannel在kubernetes中的簡單理解就是，flannel將本來2個宿主機中不可以相互通信的pod放到了一個虛擬網絡內，使得kubernetes集群內所有pod仿佛是在同一個內網，可以相互通信。
可以參考鏈接：http://dockone.io/article/618

Harbor作為一個私有倉庫，首先本身的作用肯定是存儲鏡像，也就是docker里的image，在kubernetes中，我們在配置pod時，都會為pod指定image的地址，當創建pod的時候，node會自動將image拉取下來，然后本地運行，形成pod。但是由于國內對國外網絡訪問的不可靠以及為了速度上的優化和管理上的方便，我們選擇自己搭建一個私有的倉庫，也就是Harbor。
在有了Harbor以后，我們可以自己上傳鏡像到Harbor，然后pod就只用拉取Harbor里的鏡像，并且Harbor還提供同步復制的功能，很容易就能實現高可用配置。