求减法结果平方的快速实现方案：各方法优劣分析

需求：对无符号整数a、b的减法结果进行平方运算，要求实现高效且结果正确。以下是各方案的优缺点分析：

方案1系列（1a、1b） #

unsigned int a = 5;
unsigned int b = 7;

/* Approach 1a */
unsigned int c  = (a - b) * (a - b);

/* Approach 1b */
int d = (a - b);
unsigned int e = d * d;

• 1a：完全错误。无符号整数减法遵循溢出回绕规则，当a < b时，a - b的结果是UINT_MAX - (b - a) + 1（一个极大的无符号数），平方后溢出，结果和预期的(b-a)²完全不符。
• 1b：存在严重隐患。无符号减法结果转int时，若b - a超过int的最大值（如32位系统中b-a > 2³¹-1），会触发未定义行为；仅当b - a在int范围内时，结果才正确。

方案2系列（2a、2b、2c） #

/* Approach 2a */
unsigned int f = abs(a - b) * abs(a - b);

/* Approach 2b */
unsigned int g = abs((a - b) * (a - b));

/* Approach 2c */
unsigned int h = abs(a - b);
unsigned int i = h * h;

• 2a、2c：存在和1b相同的问题。abs的参数是int，无符号减法结果转int时，超出int范围会触发未定义行为，导致abs结果不可靠。
• 2b：完全错误。a < b时，a - b是极大无符号数，平方后溢出，转int后再取abs无法得到正确的(b-a)²，平方步骤已经导致结果错误。

方案3a #

/* Approach 3a */
unsigned int j = (a > b) ? ((a - b) * (a - b)) : ((b - a) * (b - a));

• 优点：正确性完全有保障。通过比较a和b的大小，确保减法结果为非负无符号数，平方后结果符合预期；编译器会将这种简单分支优化为无分支指令（如条件移动），性能几乎无损失。
• 缺点：代码比1a多了分支判断，但实际编译后的性能可以忽略，且正确性优先级远高于微小的性能差异。

方案推荐 #

• 最优方案：3a，兼顾正确性与高效性，是最稳妥的选择。
• 次优替代：若追求无分支写法，可利用无符号数位运算计算差值的绝对值（可读性较差）：

  unsigned int diff = a - b;
  unsigned int sign_bit = diff >> (sizeof(unsigned int) * 8 - 1);
  diff ^= sign_bit;
  diff -= sign_bit * 2;
  unsigned int result = diff * diff;
  

  但编译器对3a的优化已足够好，3a仍是首选。

内容的提问来源于stack exchange，提问作者devgirl05