如何解决Docker Swarm部署MySQL时容器重启数据丢失及数据不一致问题

你的部署存在三个典型的有状态服务部署错误：

• 用GlusterFS这类分布式共享文件系统直接存储MySQL/MariaDB的/var/lib/mysql数据目录是错误的：InnoDB引擎对文件系统的POSIX语义、原子写入、文件锁机制要求极高，GlusterFS默认配置无法满足这些要求，会直接导致数据损坏、写入不一致。
• 未限制MariaDB服务的调度策略和实例数：Docker Swarm默认会根据节点资源情况调度服务副本，如果你没有强制固定db服务的调度节点，且未设置replicas:1，很容易出现db容器被调度到其他节点、甚至同时启动多个db实例写入同一份共享存储数据目录的情况，这也是你数据丢失、不一致的核心诱因。
• 你当前使用的是主机bind mount而非Swarm集群级的持久化卷，若对应节点未提前挂载GlusterFS路径，容器会直接写入本地磁盘，后续调度到其他节点时自然看不到之前写入的数据。

通过持久化存储避免容器销毁后数据丢失的大方向是正确的，但存储选型、服务调度配置不符合数据库类有状态服务的部署要求，才导致了后续的一致性问题。

方案1：单实例部署（适合90%以上中小业务场景，最稳定） #

不需要用共享存储存数据目录，直接通过节点约束固定db服务的调度位置，用本地高性能存储存数据：

• 先给要部署数据库的Swarm节点打标签：docker node update --label-add role=db 你的节点名称
• 调整db服务的配置，强制调度到该节点，仅保留1个副本，数据目录直接使用节点本地路径/SSD存储，备份文件可以存到GlusterFS做归档
  修改后的yaml参考：

version: '3.8'
services:
  www:
    image: httpd:latest
    ports: 
    - "8001:80"
    volumes:
    - /usr/papertest/src:/var/www/html/  

  db:
    image: mariadb:latest
    restart: always
    volumes:
    - /usr/test/src:/docker-entrypoint-initdb.d
    - /etc/timezone:/etc/timezone:ro
    # 数据目录用本地高性能存储，不要放GlusterFS
    - /data/mariadb:/var/lib/mysql
    # 备份文件可以定期导出到GlusterFS路径做归档
    - /usr/test/backup:/db_backup
    environment: 
      MYSQL_ROOT_PASSWORD: MySQL_PASSWORD
      MYSQL_DATABASE: MYSQL_DATABASE
    deploy:
      # 强制只运行1个实例，禁止多副本
      replicas: 1
      # 强制调度到打了db标签的节点，不会飘到其他节点
      placement:
        constraints:
          - node.labels.role == db

  phpmyadmin:
    image: phpmyadmin
    ports:
    - 4567:80
    environment:
    - PMA_ARBITRARY=1

• 日常备份通过定时任务执行mysqldump导出sql文件到/db_backup路径即可，出现故障可以直接用备份文件恢复。

方案2：高可用数据库集群（需要多副本高可用场景） #

不要依赖存储层的共享来实现数据库高可用，要在数据库层面做集群：

• 采用MariaDB Galera集群、MySQL主从复制这类数据库原生的集群方案，每个数据库实例分别使用各自节点的本地持久化存储，不共享数据目录
• 通过Swarm的服务发现、负载均衡来做前端流量的转发，数据一致性由数据库集群本身的同步机制保证，不会出现共享存储导致的一致性问题。

内容的提问来源于stack exchange，提问作者William