使用GDB $_streq时出现UnicodeDecodeError编码问题求助

你的pname变量包含非ASCII字节0xae（对应八进制\256，即Unicode的®符号），GDB的$_streq函数内部通过Python处理字符串比较时，Python 2.6会默认尝试用ASCII编码解码该字节，触发UnicodeDecodeError。尽管你在.gdbinit中设置了sys.setdefaultencoding('utf-8')，但GDB内部的字符串处理逻辑并未沿用这个配置。

以下几种方法可以解决这个问题：

方法1：自定义字节级比较函数 #

在.gdbinit中添加自定义的Python比较函数，直接在字节层面对比，绕过Unicode解码步骤：

python
def my_streq(s1, s2):
    # 将输入转换为字节串后直接比较
    s1_bytes = str(s1) if isinstance(s1, (str, unicode)) else str(s1)
    s2_bytes = str(s2) if isinstance(s2, (str, unicode)) else str(s2)
    return s1_bytes == s2_bytes

# 注册为GDB可直接调用的命令
gdb.execute("define my_streq")
gdb.execute("  python print(my_streq($arg0, $arg1))")
gdb.execute("end")
end

使用时直接在GDB中输入：

(gdb) my_streq(pname, "this\256__name__")

如果需要判断是否包含某个子串，可修改函数实现为子串检查逻辑。

方法2：指定兼容编码解码 #

修改自定义函数，使用latin-1编码解码（该编码可映射所有字节，不会触发解码错误）：

python
def safe_streq(s1, s2):
    try:
        return s1.decode('utf-8') == s2.decode('utf-8')
    except UnicodeDecodeError:
        # 解码失败时用latin-1兜底
        return s1.decode('latin-1') == s2.decode('latin-1')
end

在GDB中调用时：

(gdb) python print(safe_streq(pname, "name"))

方法3：截取有效字符串片段 #

如果只需要比较字符串的特定部分（比如后面的__name__），可以用GDB内置函数截取后再比较，避开包含非ASCII字节的部分：

(gdb) p $_streq($_strstr(pname, "__name__"), "__name__")

内容的提问来源于stack exchange，提问作者ShenJing