AWS Lambda重复触发致多ECS Fargate容器启动的问题排查

你遇到的问题核心是幂等逻辑存在竞态条件，加上ECS runTask 调用本身未做幂等校验，导致多个容器被重复启动。结合你的场景，给出以下具体解决办法：

1. 将幂等检查+写入改为原子操作 #

现有逻辑先查询数据库再插入记录，两步之间存在时间窗口，多个Lambda实例可能同时通过检查并调用runTask。必须把这两步合并为原子操作：

• 关系型数据库（如MySQL）：直接执行INSERT INTO task_records (file_name, service_id) VALUES (?, ?) ON DUPLICATE KEY UPDATE id=id，首次执行会成功写入，后续重复执行触发唯一约束并返回错误，此时直接退出即可，无需提前查询。
• DynamoDB：调用putItem时添加ConditionExpression: "attribute_not_exists(file_name)"，利用DynamoDB条件写入的原子性，只有当记录不存在时才会写入，失败的实例直接终止流程。

2. 给ECS runTask 调用添加幂等Token #

AWS ECS的runTask接口支持clientToken参数，同一Token在10分钟内重复调用时，ECS会返回已存在的任务信息，不会启动新容器：

• 生成Token：用文件名+服务ID做哈希（比如md5(file_name + service_id)），确保唯一标识当前触发事件。
• 调用示例：

response = ecs.run_task(
    cluster='your-cluster-name',
    taskDefinition='your-task-def-arn',
    launchType='FARGATE',
    clientToken='unique-token-generated-from-file-service-id',
    # 其他必要参数...
)

这样即使Lambda重复调用runTask，ECS也不会创建新任务。

3. 排查Lambda内部的重复调用逻辑 #

首个Lambda日志显示runTask执行两次，大概率是代码逻辑问题：

• 检查代码中是否存在两次调用runTask的分支，比如条件判断错误、异步回调重复触发等。
• 添加详细流程日志（比如打印进入runTask分支的条件），确认是否同一Lambda执行流程中触发了两次调用。

4. 优化Lambda的重试与并发控制 #

• S3触发的Lambda默认会异步重试（失败时最多重试2次），确保你的幂等逻辑能覆盖重试场景。
• 如果任务不需要高并发触发，可以在Lambda配置中设置预留并发为1，同一时间只允许一个实例执行，从根源避免竞态。

5. 可选：用分布式锁加固控制 #

如果上述方案仍有问题，可以用分布式锁进一步限制：

• 用DynamoDB或Redis实现锁，锁的Key设为文件名+服务ID，过期时间设置为任务启动所需时间的2倍（比如5分钟）。
• Lambda执行时先尝试获取锁，成功则执行runTask，失败则直接退出。

内容的提问来源于stack exchange，提问作者Daniël Smith