x86 32位汇编解析器指令前缀二义性判定方案咨询

x86采用变长指令编码规则，0xf3属于指令前缀范畴，不存在独立作为单字节指令的合法用法，你举的第二个单独f3解析为repz的情况，只有在反汇编起始地址偏移错误、将后续指令的前缀单独拆分出来时才会出现，正常合法的x86指令流中0xf3永远需要和后续的有效操作码组合解析。

具体判定逻辑可以按照以下优先级处理：

• 拿到字节流后优先识别当前字节是否属于四类指令前缀：0xf0(lock)、0xf2(repnz/repne)、0xf3(repz/repe/rep)、段超越前缀、地址大小前缀、操作数大小前缀，所有前缀都不是独立指令，必须向后读取直到匹配到合法的操作码序列，组合为完整指令
• 如果向后读取字节后无法匹配到任何合法的带前缀指令，才说明当前字节流存在非法编码，此时才可以考虑将前缀作为非法独立指令处理（仅在混淆场景下恶意构造的非法字节流才会出现这类情况）
• 成熟反汇编器普遍采用最长匹配原则处理歧义：只要向后读取能组合成更长的合法指令，就优先采用长指令的解析结果，不会单独拆分前缀作为独立指令

你在搭建指令映射库的时候，需要先把所有指令前缀单独拎出来做预判断，不要把前缀加入单字节指令的匹配表，就能避免这个歧义问题。

内容的提问来源于stack exchange，提问作者GUCCISWAGDAWG