Tornado中使用curl_httpclient无响应程序挂起，求排查建议

环境信息 #

• 系统：Debian 11 最小安装（含SSH服务器及标准系统工具）
• curl版本：curl 7.74.0 (x86_64-pc-linux-gnu) libcurl/7.74.0 OpenSSL/1.1.1n zlib/1.2.11 brotli/1.0.9 libidn2/2.3.0 libpsl/0.21.0 (+libidn2/2.3.0) libssh2/1.9.0 nghttp2/1.43.0 librtmp/2.3
• 发布日期：2020-12-09
• 支持协议：dict file ftp ftps gopher http https imap imaps ldap ldaps mqtt pop3 pop3s rtmp rtsp scp sftp smb smbs smtp smtps telnet tftp
• 特性：alt-svc AsynchDNS brotli GSS-API HTTP2 HTTPS-proxy IDN IPv6 Kerberos Largefile libz NTLM NTLM_WB PSL SPNEGO SSL TLS-SRP UnixSockets
• 测试组合：Python 3.9.9/3.11.2 + Tornado 5.0.2/6.2

问题描述 #

使用Tornado官方并发网络爬虫队列示例，当配置启用CurlAsyncHTTPClient时：

AsyncHTTPClient.configure("tornado.curl_httpclient.CurlAsyncHTTPClient")

程序永久挂起。追踪发现执行到_process_queue()方法中的pycurl.CurlMulti()调用环节后无进展，推测问题出在pycurl或libcurl层面。

已完成的初步排查：

• 单独测试cURL和基础pycurl功能（如pycurl.Curl().perform()），未发现异常
• 在curl_httpclient模块中开启DEBUG日志：

  curl.setopt(pycurl.VERBOSE, 1)
  curl.setopt(pycurl.DEBUGFUNCTION, self._curl_debug)
  

  但程序未进入请求环节，无日志输出

一、查看pycurl-libcurl层面日志的方法 #

1. 全局环境变量启用日志
   启动程序前设置环境变量，让libcurl直接输出底层日志到stderr，无需修改代码：

   export CURL_VERBOSE=1
   export CURL_DEBUG=1
   python your_script.py
   

2. 自定义DEBUGFUNCTION日志函数
   替换默认的_curl_debug方法，确保日志能正常输出（避免编码问题吞掉日志）：

   def curl_debug(debug_type, debug_msg):
       print(f"[CURL DEBUG] Type: {debug_type}, Msg: {debug_msg.decode('utf-8', errors='ignore')}")
   
   # 在初始化curl对象时设置
   curl.setopt(pycurl.DEBUGFUNCTION, curl_debug)
   curl.setopt(pycurl.VERBOSE, 1)
   

3. 确认libcurl编译特性
   运行curl -V检查输出的特性列表，确认包含DEBUG（当前环境未显示该特性，需确认libcurl编译时是否启用调试支持）。若编译时禁用调试，上述日志方法可能无效。

二、定位问题的pycurl测试套件 #

1. CurlMulti基础功能独立测试 #

模拟Tornado中CurlMulti的使用流程，不依赖Tornado事件循环，直接验证核心逻辑：

import pycurl
from io import BytesIO

def test_curl_multi_basic():
    urls = ["http://example.com"]
    multi = pycurl.CurlMulti()
    handles = []

    # 初始化curl句柄并添加到multi对象
    for url in urls:
        buffer = BytesIO()
        c = pycurl.Curl()
        c.setopt(c.URL, url)
        c.setopt(c.WRITEDATA, buffer)
        multi.add_handle(c)
        handles.append((c, buffer))
    
    # 模拟事件循环处理流程
    while True:
        ret, num_handles = multi.perform()
        if ret != pycurl.E_CALL_MULTI_PERFORM:
            break
    
    while num_handles:
        ret = multi.select(1.0)
        if ret == -1:
            continue
        while True:
            ret, num_handles = multi.perform()
            if ret != pycurl.E_CALL_MULTI_PERFORM:
                break
    
    # 输出结果并清理资源
    for c, buffer in handles:
        print(f"Response content: {buffer.getvalue().decode('utf-8')[:50]}...")
        c.close()
    multi.close()

test_curl_multi_basic()

2. Tornado+CurlAsyncHTTPClient最小化测试 #

排除队列等额外逻辑干扰，仅测试单个请求是否正常：

import tornado.ioloop
import tornado.httpclient

async def test_single_curl_request():
    tornado.httpclient.AsyncHTTPClient.configure("tornado.curl_httpclient.CurlAsyncHTTPClient")
    client = tornado.httpclient.AsyncHTTPClient()
    response = await client.fetch("http://example.com")
    print(f"Request succeeded, code: {response.code}")

tornado.ioloop.IOLoop.current().run_sync(test_single_curl_request)

3. 版本兼容性测试 #

针对Python 3.9.9/3.11.2与pycurl的组合分别测试，确认是否存在版本适配问题（可通过pip show pycurl查看pycurl版本，验证其与libcurl 7.74.0的兼容性）。

三、整体排查步骤 #

1. 隔离问题范围

   • 先运行最小化Tornado测试用例，确认单个CurlAsyncHTTPClient请求是否挂起：若正常，问题出在队列与CurlMulti的交互逻辑；若仍挂起，直接定位到CurlAsyncHTTPClient本身。
   • 切换回Tornado默认的SimpleAsyncHTTPClient，验证业务逻辑无问题。

2. 验证依赖兼容性

   • 确认pycurl版本与系统libcurl版本匹配（如pycurl 7.45.0+通常兼容libcurl 7.74.0）。
   • 通过ldd $(which curl)检查libcurl依赖的SSL、HTTP2等库是否正常加载。

3. 底层日志分析

   • 启用libcurl全局日志或自定义DEBUGFUNCTION，检查是否存在DNS解析失败、SSL握手超时、连接异常等底层错误。

4. 调试CurlMulti执行流程

   • 在测试脚本中添加打印日志，跟踪CurlMulti.perform()、select()的返回值：
     • 若perform持续返回E_CALL_MULTI_PERFORM，可能是libcurl内部状态异常；
     • 若select一直返回0，说明无事件触发，可能是文件描述符未正确注册到事件循环。

5. 环境对比测试

   • 在其他系统（如Debian 12、Ubuntu）上运行相同代码，确认是否为当前Debian 11环境特定问题。

内容的提问来源于stack exchange，提问作者Keo