Python gRPC：如何为单次重试请求设置独立超时？

问题场景 #

我编写了如下gRPC异步调用代码，配置了重试策略和0.5秒超时：

settings = {
    'methodConfig': [
        {
            'name': [{}],
            'timeout': '0.5s',
            'retryPolicy': {
                'maxAttempts': 5,
                'initialBackoff': '0.1s',
                'maxBackoff': '2s',
                'backoffMultiplier': 2,
                'retryableStatusCodes': [
                    'UNAVAILABLE',
                    'INTERNAL',
                    'DEADLINE_EXCEEDED',
                ],
            },
        },
    ],
}
settings_as_json_string = json.dumps(settings)
request = Request(...)
async with grpc.aio.insecure_channel(
   host_port, options=(('grpc.service_config', settings),),
) as channel:
    stub = StubClass(channel=channel)
    await stub.SomeMethod(
        request=request,
    )

服务端特意将处理延迟至约1秒，但运行后只进行了1次尝试，0.5秒后触发DEADLINE_EXCEEDED错误，没有触发预期的5次重试。推断此处的timeout是整个交互的总时长上限，而非单次请求的超时。

即使移除配置中的timeout，改为在方法调用时传入timeout=0.5，结果依然相同。

需求是：为每次重试请求单独设置等待响应的超时——每次请求等待0.5秒后触发退避，再发起下一次请求，该次请求同样等待0.5秒，直到达到maxAttempts设定的次数。

解决方案 #

要实现每次重试单独超时，需要调整两个关键点：

1. 使用perAttemptTimeout替代timeout #

gRPC服务配置中的perAttemptTimeout字段专门用于设置单次重试请求的超时时间，而timeout是整个重试流程的总时长上限。将配置中的timeout替换为perAttemptTimeout即可满足单次请求超时的需求。

2. 确保传入正确的服务配置格式 #

服务配置需要传入JSON字符串，而非Python字典。你原来的代码中已经序列化了settings_as_json_string，但在channel配置时错误传入了settings字典，这会导致gRPC无法正确解析重试规则。

修改后的完整代码：

import json
import grpc.aio

settings = {
    'methodConfig': [
        {
            'name': [{}],  # 匹配所有gRPC方法
            'perAttemptTimeout': '0.5s',  # 单次重试请求的超时时间
            'retryPolicy': {
                'maxAttempts': 5,
                'initialBackoff': '0.1s',
                'maxBackoff': '2s',
                'backoffMultiplier': 2,
                'retryableStatusCodes': [
                    'UNAVAILABLE',
                    'INTERNAL',
                    'DEADLINE_EXCEEDED',
                ],
            },
        },
    ],
}
settings_as_json_string = json.dumps(settings)
request = Request(...)
async with grpc.aio.insecure_channel(
   host_port, options=(('grpc.service_config', settings_as_json_string),),
) as channel:
    stub = StubClass(channel=channel)
    await stub.SomeMethod(
        request=request,
    )

额外说明 #

• 如果需要限制整个重试流程的总时长，可以同时保留timeout字段（例如设置为3s，覆盖5次尝试加退避的总耗时），但它不会影响perAttemptTimeout的单次超时逻辑。
• 方法调用时传入的timeout参数是整个调用的总超时，会覆盖服务配置中的timeout，但不会改变perAttemptTimeout的单次规则。

内容的提问来源于stack exchange，提问作者zanuda