ansible 运维手册

所有命令都在控制机(你的 Mac)上,本目录里跑:

cd ~/Downloads/Dev/yzhu-io/content/files/server/ansible
git pull --ff-only          # 每次先拉最新

ansible.cfg 已经指定了 inventory/hosts.ini,下面的 -i inventory/hosts.ini 可以省略。 --ask-vault-pass 输入的是 vault 密码(只有一个),它会解开 group_vars/all/vault.yml, 里面存着各组的 sudo 密码:一般机器用 vault_become_pass_A,vcla 用 _B,pumch_clara 用 _C(见 group_vars/*/vars.yml)。

目录

文件作用
inventory/hosts.ini所有机器(分组、SSH 地址和端口、特殊的 python 路径)
../config给人用的 SSH 配置,和 hosts.ini 一一对应
update_all.yaml日常系统更新(= 下面三个一起跑)
update_common.yaml / update_vcla.yaml / update_pumch.yaml按密码分组的系统更新
tasks/update_tasks.yml、handlers/系统更新的具体步骤
frpc_upgrade.yaml + frpc_upgrade/frpc 安装 / 迁移 / 升级 / 回滚(第 4、7 节)
frpc_upgrade/files/frpc_mac_install.shmacOS 的 frpc(cabernet)
frpc_upgrade/files/frpc_user_install.sh没有 sudo 的机器的 frpc(node1)
frpc_upgrade/frpc_hosts.ymlfrpc 端口表(每台机器、路由器的 frps 端口)
frpc_check.yaml体检(只读)
frpc_update_all.sh一键把所有机器的 frpc 升级到新版
frpc_backups_clean.yaml删除迁移留下的备份

1. 日常运维:系统更新(apt dist-upgrade)

ansible-playbook update_all.yaml --ask-vault-pass                 # 全部机器
ansible-playbook update_common.yaml --ask-vault-pass -l g2207     # 只更新一组
ansible-playbook update_common.yaml --ask-vault-pass -l fdobby    # 只更新一台
ansible-playbook update_vcla.yaml --ask-vault-pass                # vcla 组(密码 B)
ansible-playbook update_pumch.yaml --ask-vault-pass               # pumch_clara(密码 C)

做的事:apt update → dist-upgrade → autoremove → autoclean → snap refresh → daemon-reload, 最后提示哪些机器需要重启(不会自动重启),并打印 nvidia-smi。 [proxied] 组里的机器(fred 等)会自动走代理。

  • 先看会改什么:加 --check。
  • 连不上的机器会报 UNREACHABLE,不影响其他机器;上线后用 -l 那台 再跑一次。
  • 需要重启的机器:通知学生后自己 ssh 机器 sudo reboot;frpc 是开机自启的,重启后自己会连回来。

2. 体检(每次升级、增删机器之后都跑)

ansible-playbook frpc_check.yaml --ask-vault-pass                  # 全部
ansible-playbook frpc_check.yaml --ask-vault-pass -l famygdala     # 只查一台
  • ✅ 开头 [表] 结果 是 “三份配置一致”,最后 PLAY RECAP 里 failed=0(连不上的机器是 unreachable)。
  • ❌ 某台 FAILED:看它的 [汇总] 有问题 那段,里面写着哪里不对。

只看不改。查的内容:frpc_hosts.yml / hosts.ini / config 端口一致;每台的 hostname、frpc 版本、 /usr/local/bin/frpc、/etc/frp/frpc.toml、frpc.service 开机自启且在跑、没有残留;绑定的路由器能连上。

3. 全体升级 frpc(每几个月一次)

sh frpc_update_all.sh            # 升到 GitHub 最新版
sh frpc_update_all.sh 0.73.0     # 升到指定版本

脚本会:拉仓库 → 看哪些机器在线 → 体检 → 逐台升级(一台失败就停,那台自动恢复)→ 再体检 → 改仓库里的默认版本号(提示你 commit + push)→ 打印 cabernet(macOS)和 node1(没有 sudo)要手动跑的命令(第 7 节)。 vault 密码只问一次;连不上的机器跳过,最后列出来,上线后再跑一次即可。

4. 单台 frpc 操作

要做什么命令
升级一台ansible-playbook frpc_upgrade.yaml --ask-vault-pass -l fdobby -e frpc_phase=upgrade
升级到指定版本上面再加 -e frpc_version=0.73.0
新机器装 frpc(以前没有 frp)ansible-playbook frpc_upgrade.yaml --ask-vault-pass -l 新机器 -e frpc_fresh=true,然后同下面迁移的第 2–4 步
换 tokenansible-playbook frpc_upgrade.yaml --ask-vault-pass -e frpc_phase=upgrade -e frpc_token=新token

老 frp 迁移到新端口(ginni、cerebellum 上线后就是这样做):

# 1. 安装:旧 frp 保持运行,失败会自动回滚
ansible-playbook frpc_upgrade.yaml --ask-vault-pass -l fginni
# 2. 自己用新端口连一次(端口见 frpc_hosts.yml)
ssh -p 30124 [email protected]
# 3. 清理旧 frp(经新端口连接)
ansible-playbook frpc_upgrade.yaml --ask-vault-pass -l fginni -e frpc_phase=cleanup
# 4. 把 hosts.ini 和 ../config 里这台的端口改成新端口,commit + push,再跑体检
  • 第 3 步之前想撤回:-e frpc_phase=rollback,删掉新装的 frpc,旧 frp 照常。
  • 默认一次只许一台;加 -e frpc_allow_multi=true 可以 -l a,b,c 排队(逐台串行,最多 10 台,一台失败就停)。
  • 旧配置里有 SSH 以外的 proxy 时会停下;确认不要了加 -e frpc_drop_extra=true。

升级时连接不会断:先用临时端口起新版,确认能连上再替换正式的。

5. 增加 / 删除 / 换端口一台机器

三处一起改,一起 commit:

  1. frpc_upgrade/frpc_hosts.yml:hostname、proxy 名字、端口(30100–30200 里挑没用过的,30200 留给升级用的临时隧道)
  2. inventory/hosts.ini:放进对应的组,写 ansible_ssh_host=152.136.38.232 ansible_ssh_port=端口
  3. ../config:Host f机器名,同样的端口

然后装 frpc(第 4 节新机器那行),跑体检(第 2 节),commit + push。

Ubuntu 20.04 的机器(例如 caduceus):新版 ansible 要求机器上有 Python ≥ 3.9, 先 sudo apt install python3.9,再在 hosts.ini 这台后面加 ansible_python_interpreter=/usr/bin/python3.9 (不要用 -e 传,会把控制机上的步骤也带坏)。

6. 删除迁移留下的备份

ansible-playbook frpc_backups_clean.yaml --ask-vault-pass                       # 只列出
ansible-playbook frpc_backups_clean.yaml --ask-vault-pass -e frpc_delete=true   # 确认后真删

只删 /var/backups/ 下的 frp 备份,只处理 frpc 正在运行的机器。

7. macOS 和没有 sudo 的机器(不在 ansible 里)

cabernet(macOS):frpc_upgrade/files/frpc_mac_install.sh,在那台 Mac 上用 sudo 跑。装到 /usr/local/bin/frpc、/etc/frp/frpc.toml, LaunchDaemon io.yzhu.frpc 开机自启、退出自动拉起,日志 /var/log/frpc.log。

scp -P 30101 frpc_upgrade/files/frpc_mac_install.sh [email protected]:~/
# 新装:
ssh -t -p 30101 [email protected] 'sudo env FRPC_NAME=ssh_cabernet FRPC_PORT=30101 FRPC_ROUTERS="ssh_openwrt_2208:192.168.132.1:30100" sh ~/frpc_mac_install.sh install'
# 升级(后台跑,SSH 会断几秒;十几秒后看 /var/log/frpc-upgrade.log 最后一行"完成"):
ssh -t -p 30101 [email protected] 'sudo env FRPC_VERSION=0.73.0 sh ~/frpc_mac_install.sh upgrade'

node1(b200,没有 sudo):frpc_upgrade/files/frpc_user_install.sh,以自己的账号跑。装在家目录(~/.local/bin/frpc、 ~/.config/frp/frpc.toml),crontab 守护(@reboot + 每 5 分钟检查)。

scp -P 30190 frpc_upgrade/files/frpc_user_install.sh [email protected]:~/
# 升级(日志 ~/.local/state/frpc/upgrade.log):
ssh -p 30190 [email protected] 'FRPC_VERSION=0.73.0 sh ~/frpc_user_install.sh upgrade'

两个脚本都有 install / cleanup / rollback / upgrade,失败自动换回旧的。node1 下载不了 GitHub 时, 在别处下好 frp_<版本>_linux_amd64.tar.gz 传上去,加 FRPC_TARBALL=路径。 这两台的备份手动删:node1 rm -f ~/.local/state/frpc/frp-old-*;cabernet sudo rm -f /var/backups/frp-old-*.tar.gz。

8. frpc 是怎么设计的

  • frps:rhea 152.136.38.232:30000;每台一个 proxy ssh_<hostname>,端口 30100–30199,30200 留给升级时的临时隧道(rhea 防火墙要放行)。
  • 每台统一装在 /usr/local/bin/frpc + /etc/frp/frpc.toml + frpc.service(开机自启)。TLS + disableCustomTLSFirstByte,每个 proxy 限速 500KB。
  • 路由器(OpenWrt)由同一局域网里的一台机器代转,写在 frpc_hosts.yml 那台机器的 routers: 里。
  • 连接不断:install 时新旧并行,确认新端口能 SSH 进去、hostname 对,才算成功;upgrade 先经 30200 临时隧道替换再验证。任何一步失败都自动恢复。
  • 只动我们自己的 frp:按 remotePort 等于当前 SSH 端口认出要替换的旧 unit(记在 /etc/frp/old-frp-unit),别人装的 frpc 一律不碰。
  • cleanup 把旧文件备份到 /var/backups/frp-old-*.tar.gz 再删(第 6 节删备份)。
  • token 不进仓库:从旧配置读;新装(frpc_fresh=true)时从 fdumbledore 的 /etc/frp/frpc.toml 读。
  • 二进制在控制机上从 GitHub 下载,用官方 sha256 校验。

注意

  • 不要把 frp token、路由器密码写进仓库;token 只在各机器的 /etc/frp/frpc.toml 里。
  • 别人自己装的 frp(unit 名字不是 frpc 的)体检里只提示,不要动。
  • 还没迁移的机器:ginni(计划 30124)、cerebellum(计划 30150),上线后按第 4 节迁移。