SQLite插入操作后闪存实际写入字节数监控技术咨询

项目背景 #

我目前正在开展一个项目，需监控SQLite数据库执行插入操作后写入闪存存储的实际字节数。已将方法简化为以下代码片段：

def get_sectors_written_from_stat():
    with open("/sys/block/sda/stat", "r") as f:
        fields = f.read().strip().split()
        return int(fields[6])  # 7th field (index 6)

def log_stuff(i, previous_sectors_wrtn):
    sectors_wrtn_after = self.get_sectors_written_from_stat()
    diff_sectors_wrtn = sectors_wrtn_after - previous_sectors_wrtn
    self.log(
        f"Sectors written: {sectors_wrtn_after}, Differential: {diff_sectors_wrtn}",
    )

def insert_data(self):
    data = "x" * self.DATA_LENGTH
    self.c.execute("INSERT INTO wear_test (data) VALUES (?)", (data,))
    self.conn.commit()

def insert_and_iostat():
    sectors_wrtn_before = self.get_sectors_written_from_stat()
    for i in range(self.NUM_OF_INSERT_OPERATIONS):
        self.insert_data()

    self.sqlite_utilities.perform_checkpoint()
    log_stuff(i, sectors_wrtn_before)

def run_test():
    self.insert_and_iostat()

核心问题 #

1. 采用插入操作前后iostat的输出来确定闪存实际写入字节数，是否为理想方案？
2. 考虑到文件系统缓存可能影响结果，还需监控哪些内容？
3. 是否有更直接的方法让SQLite库估算操作对应的闪存写入数据量？

见解与建议 #

问题1：iostat方案是否理想？ #

这是可行但非最优的方案：

• 优点：直接反映底层存储的实际写入量，包含SQLite写入、文件系统/journal、闪存FTL层的额外写入（如磨损均衡），能得到真实的闪存消耗。
• 缺点：
  • 粒度太粗：无法区分SQLite操作带来的写入和系统其他进程的写入，测试期间有其他IO活动会导致数据失真。
  • 依赖特定设备路径：/sys/block/sda/stat仅对应指定块设备，若SQLite文件在其他分区/设备上则完全失效。
  • 无法关联具体操作：只能统计批量插入后的总写入，无法拆解单条插入或特定操作的写入量。

问题2：文件系统缓存影响下的补充监控 #

• 强制刷写缓存：测试前后执行os.sync()（Python）或sync命令，确保所有脏页写入磁盘，避免缓存延迟导致的统计偏差。
• 监控脏页状态：读取/proc/meminfo中的Dirty和Writeback字段，确认测试前脏页已清零，测试后脏页已全部刷写完成。
• SQLite缓存控制：
  • 设置PRAGMA synchronous=FULL或PRAGMA synchronous=EXTRA，确保SQLite提交时立即刷写数据到磁盘，减少文件系统缓存干扰。
  • 通过PRAGMA cache_size=-kibibytes限制SQLite自身页缓存大小，降低缓存带来的写入延迟。

问题3：SQLite直接估算写入量的方法 #

• 监控页变化：
  • 用PRAGMA page_count和PRAGMA page_size，结合操作前后的页数量变化，估算逻辑写入量（注意：此方法无法统计FTL层的放大写入）。
  • WAL模式下，监控WAL文件大小变化及checkpoint后主数据库文件的变化，累加这些文件的写入量作为逻辑写入参考。
• 跟踪SQLite IO操作：
  • 注册sqlite3_trace_v2钩子，跟踪SQLite的磁盘IO操作（如页写入、WAL写入），直接统计SQLite发起的写入请求大小。
• 统计Journal/WAL写入：
  • 测试前后分别读取Journal文件（DELETE/TRUNCATE模式）或WAL文件的大小，结合主数据库文件的大小变化，得到SQLite层面的总逻辑写入量。

完善后的监控策略建议 #

1. 隔离测试环境：确保测试期间无其他进程对目标存储设备进行IO操作，避免干扰统计结果。
2. 分层统计：
   • 底层：继续用/sys/block/xxx/stat统计实际闪存写入量（包含FTL放大）。
   • 文件系统层：监控SQLite数据库、Journal/WAL文件的st_blocks字段（通过stat命令），乘以块大小得到实际写入磁盘的字节数。
   • SQLite层：通过PRAGMA命令和跟踪接口统计逻辑写入量。
3. 多次取平均：执行多轮测试，取写入量的平均值，减少偶然因素影响。
4. 验证缓存状态：每次测试前执行sync并检查/proc/meminfo的脏页状态，确保测试起始点缓存干净。

内容的提问来源于stack exchange，提问作者user12345