使用StableBaselines VecFrameStack处理观测空间时遇断言错误

你遇到的AssertionError本质是自定义Env的观测空间定义与实际返回的观测数据不匹配：虽然你在__init__里声明了Box类型，但实际返回的观测数据类型、数值范围和定义的observation_space完全冲突，导致VecFrameStack检测时误判观测空间不符合要求。

具体问题点 #

• 你定义的observation_space是dtype=np.uint8、数值范围0-255，但step方法返回的frame_delta是两个uint8数组相减的结果，会产生负数（比如当前帧像素值小于前一帧时），数据类型自动转为int，和声明的uint8完全矛盾。
• reset返回预处理后的uint8格式图像，step返回帧差（int类型），观测数据格式在不同阶段不一致，进一步导致VecFrameStack无法正确识别观测空间类型。

修复步骤 #

1. 修正观测空间定义

根据帧差的实际数值范围（-255到255），调整observation_space的参数：

class StreetFighter(Env): 
    def __init__(self):
        super().__init__()
        # 帧差范围为-255到255，用int16类型容纳
        self.observation_space = Box(low=-255, high=255, shape=(84,84,1), dtype=np.int16)
        self.action_space = MultiBinary(12)
        self.game = retro.make(game = 'StreetFighterIISpecialChampionEdition-Genesis', use_restricted_actions = retro.Actions.FILTERED)

2. 统一观测数据类型

在step方法中先转换数据类型再计算帧差，避免溢出并匹配观测空间定义：

def step(self, action):
    obs, reward, done, info = self.game.step(action)
    obs = self.preprocess(obs)
    
    # 先转为int16再计算帧差，避免uint8相减的溢出问题
    frame_delta = obs.astype(np.int16) - self.previous_frame.astype(np.int16)
    self.previous_frame = obs

    reward = info['score'] - self.score
    self.score = info['score']

    return frame_delta, reward, done, info

3. 完善异常处理

Optuna调优时如果出现异常，需要返回一个惩罚值避免流程中断：

def optimize_agent(trial):
    try:
        # 原有代码...
    except Exception as e:
        print(f"Trial {trial.number} failed with error: {e}")
        return -1000

修复原理 #

修改后，观测空间的定义与实际返回的帧差数据在类型、数值范围上完全匹配，VecFrameStack可以正确识别为Box类型，不会再触发AssertionError。

内容的提问来源于stack exchange，提问作者Henry Bergman