AWS Lambda冷启动致执行中断与MySQL连接超时问题排查求助

问题背景 #

我正在使用AWS Lambda触发S3中的CSV文件上传，并将文件数据插入数据库。若连续几秒内多次执行代码，大多能成功；但当两次测试间隔超过20秒时，代码有时会在console.log('about to get the data')处停止执行，后续代码无响应，有时还会出现MySQL连接超时问题。我推测这是冷启动问题，不想错过任何S3触发事件，现求助排查代码中的缺陷。

原代码如下：

const AWS = require('aws-sdk');
const s3 = new AWS.S3({region: "ap-south-1", apiVersion: "2006-03-01"});
var mysql= require('mysql');
var conn = mysql.createPool({
  connectionLimit: 50,
  host: "HOST",
  user: "USER",
  password: "PASSWORD",
  database: "DATABASE"
})
async function mainfunc (event, context, callback) {
  console.log("Incoming Event: ", JSON.stringify(event));
  const bucket = event.Records[0].s3.bucket.name;
  const filename = decodeURIComponent(event.Records[0].s3.object.key.replace(/\+/g, ' '));
  const params = { Bucket: bucket, Key: filename };
  console.log('about to get the data'); //Code stops here some times
  return await getresult(params);
};
async function getresult(params){
  var result = await s3.getObject(params).promise();
  var recordList = result.Body.toString('utf8').split(/\r?\n/).filter(element=>{
    return element.length> 5;
  })
  recordList.shift()
  var jsonValues = [];
  var jsonKeys = result.Body.toString('utf8').split(/\r?\n/)[0]
  recordList.forEach((element) => {
    element = element.replace(/"{2,}/g,'"').replace(/, /g,"--").replace(/"{/, "{").replace(/}"/, "}").replace(/,/g, ';').replace(/--/g,', ').split(';');
    jsonValues.push(element)
  });
  var lresult = await query(jsonKeys, jsonValues);
  return lresult;
}
async function query(jsonKeys, jsonValues){
  var qresult = await conn.getConnection(function(err, connection) {
    if (err){
      console.log(err,'------------------------------------');// Sometimes i get Sql Connection timeout error here
    } else {
      console.log("Connected!");
      var sql = "INSERT INTO reports ("+jsonKeys+") VALUES ?";
      connection.query(sql, [jsonValues], function (err, result) {
        if (err){
          console.log(err);
          connection.release()
          return err;
        } else {
          console.log("1 record inserted");
          console.log(result);
          connection.release()
          return result;
        }
      });
    }
  })
}
exports.handler = mainfunc

代码缺陷分析 #

Let's break down the key issues causing your timeout and silent failures:

• MySQL连接的异步处理错误
  你的query函数用await调用conn.getConnection，但标准mysql库是基于回调的——它不返回Promise。这意味着await完全不起作用，函数会立刻返回undefined，数据库逻辑在后台运行但不受跟踪。如果Lambda在回调完成前结束执行，就会出现代码"停止"的静默失败。

• 缺失错误捕获机制
  所有异步操作（S3文件获取、MySQL查询）都没有try/catch块。当冷启动导致延迟或连接超时时，错误不会被记录或传播，看起来就像代码毫无缘由地停住了。

• 连接池复用的连接失效问题
  连接池在模块级别创建（这是复用的好习惯），但如果Lambda间隔20秒以上复用容器，池中的现有连接可能已被MySQL断开（受wait_timeout设置影响）。使用这些失效连接时，就会触发超时错误。

• Lambda事件循环设置
  默认情况下，Lambda会等待事件循环为空才结束执行。如果连接池持有开放连接，Lambda可能会冻结或提前退出，冷启动时这个问题更明显。

修复后的代码 #

这里是优化后的版本，使用支持Promise的MySQL库、完善的错误处理和适配Lambda冷启动的连接池配置：

const AWS = require('aws-sdk');
const s3 = new AWS.S3({ region: "ap-south-1", apiVersion: "2006-03-01" });
// 改用支持Promise的mysql2库，避免回调地狱
const mysql = require('mysql2/promise');

// 优化连接池配置，适配Lambda冷启动场景
const pool = mysql.createPool({
  connectionLimit: 10, // Lambda无需50个连接，按需调整
  host: "HOST",
  user: "USER",
  password: "PASSWORD",
  database: "DATABASE",
  connectTimeout: 10000, // 连接超时时间
  acquireTimeout: 10000, // 获取连接超时时间
  timeout: 10000, // 连接空闲超时时间
  // 自动测试连接有效性，避免使用失效连接
  waitForConnections: true,
  queueLimit: 0
});

async function mainfunc(event, context) {
  // 告诉Lambda不要等待空事件循环，避免因连接池保持连接导致进程挂起
  context.callbackWaitsForEmptyEventLoop = false;
  
  try {
    console.log("Incoming Event: ", JSON.stringify(event));
    const bucket = event.Records[0].s3.bucket.name;
    const filename = decodeURIComponent(event.Records[0].s3.object.key.replace(/\+/g, ' '));
    const params = { Bucket: bucket, Key: filename };
    
    console.log('about to get the data');
    const result = await getresult(params);
    
    console.log('Processing finished successfully');
    return result;
  } catch (err) {
    console.error('Main function failed:', err);
    // 抛出错误让Lambda标记为失败，S3会自动重试该事件
    throw err;
  }
};

async function getresult(params) {
  try {
    const s3Result = await s3.getObject(params).promise();
    const csvContent = s3Result.Body.toString('utf8');
    const lines = csvContent.split(/\r?\n/).filter(line => line.length > 5);
    
    if (lines.length === 0) {
      throw new Error('No valid records found in the CSV file');
    }
    
    const jsonKeys = lines.shift();
    // 建议用专业CSV解析库（如csv-parser）替换手动字符替换，避免解析错误
    const jsonValues = lines.map(line => {
      return line.replace(/"{2,}/g, '"')
                 .replace(/, /g, "--")
                 .replace(/"{/, "{")
                 .replace(/}"/, "}")
                 .replace(/,/g, ';')
                 .replace(/--/g, ', ')
                 .split(';');
    });
    
    return await query(jsonKeys, jsonValues);
  } catch (err) {
    console.error('Failed to process S3 object:', err);
    throw err;
  }
}

async function query(jsonKeys, jsonValues) {
  let connection;
  try {
    // 获取连接（mysql2返回Promise，await生效）
    connection = await pool.getConnection();
    console.log("Connected to MySQL successfully");
    
    const sql = `INSERT INTO reports (${jsonKeys}) VALUES ?`;
    const [result] = await connection.query(sql, [jsonValues]);
    
    console.log(`${result.affectedRows} records inserted`);
    return result;
  } catch (err) {
    console.error('MySQL query failed:', err);
    throw err;
  } finally {
    // 确保无论成功/失败都释放连接
    if (connection) {
      connection.release();
    }
  }
}

exports.handler = mainfunc;

额外优化建议 #

• 使用专业CSV解析库: 手动字符替换容易出错（比如CSV字段包含分号或引号时）。推荐使用csv-parser或papaparse来可靠解析CSV内容。
• 配置S3事件重试: S3触发Lambda时，默认会重试失败的事件（最多3次，间隔递增），确保不会丢失数据。你可以在Lambda的错误处理中抛出错误，让S3自动重试。
• 监控冷启动与连接指标: 用CloudWatch监控Lambda的初始化时间（冷启动耗时）、MySQL连接错误数，帮助你进一步优化。
• 调整MySQL超时设置: 如果Lambda容器复用间隔超过MySQL的wait_timeout（默认8小时，但有些环境会设得更短），可以适当调大这个值，或在获取连接时执行connection.ping()验证有效性。

内容的提问来源于stack exchange，提问作者Srinath