使用超2048token的few-shot CoT提示评估Flan-T5是否有效？

我目前在使用长度可能超过2048最大Token限制的few-shot思维链（CoT）提示，对不同版本的Flan-T5模型进行评估。考虑到T5采用相对位置编码机制，我推测只要能解决二次内存增长的问题，在超2048Token的序列上开展零样本评估是可行的，但需要确认这个判断是否正确。

我持有的核心依据是：

• 模型的线性映射仅从相对位置编码中学习相对依赖关系，即便模型从未在超长序列上训练过，这类评估依然具备有效性；
• 唯一的局限在于，模型没有学习过长度超过2048Token的序列所对应的相对依赖模式。

内容的提问来源于stack exchange，提问作者Juan Diego Bermeo