Intel 2022编译器开启AVX2与/fp:fast时的NaN问题求助
问题:Intel 2022编译器特定编译选项下maxabserr被错误置为NaN
- 触发场景:优化@njaffa提供的快速erfc()函数测试框架时出现异常
- 异常触发条件:仅在Intel 2022编译器开启
AVX2、/fp:fast及Release模式时,生成的代码会将maxabserr变量错误置为NaN - 无异常情况:切换至FP strict/precise模式,或使用其他编译器编译时,该问题不会出现
- 复现特征:循环需至少执行一次才会触发异常;添加
printf语句、修改循环条件等微小代码改动会使代码恢复正常 - 初步推测:max绝对值更新逻辑与NaN值处理存在异常交互,但无法准确定位问题根源,寻求技术帮助
内容的提问来源于stack exchange,提问作者Martin Brown
相关产品推荐
相关产品推荐

