fixest2项目cpp11实现中整数转换引发R会话崩溃问题
fixest2 cpp11_wip分支中cpp_get_fe_gnl_函数调用异常分析
问题表现
- 调用C++函数
cpp_get_fe_gnl_时出现两种异常场景:- 将R中的整数矩阵
obsCluster转为整数类型传递时,R会话触发memory not mapped段错误 - 若以double类型传递该矩阵,直接返回
double vs integer类型不匹配错误
- 将R中的整数矩阵
疑似原因
初步判断是整数溢出产生负数导致,问题关联cpp代码中的特定循环逻辑
已完成的排查动作
已提交GitHub Issue,附带完整的复现步骤及代码细节
内容的提问来源于stack exchange,提问作者pachadotdev
相关产品推荐
相关产品推荐

