Mainframe PL/1中WAVE_LTH二进制浮点常量的数值计算方法咨询

常量格式说明 #

PL/1里的11001E-10B是二进制浮点数常量，规则如下：

• B 标记该常量为二进制浮点数类型；
• E 是指数分隔符，其后的十进制数值代表2的幂次；
• 数值核心计算公式：二进制有效数字的十进制值 × 2^指数值

具体计算步骤 #

1. 转换二进制有效数字为十进制
   常量中的二进制部分11001转换为十进制：

   11001₂ = 1×2⁴ + 1×2³ + 0×2² + 0×2¹ + 1×2⁰ = 16 + 8 + 0 + 0 + 1 = 25
   

2. 计算指数对应的幂次
   指数为-10，对应2的负10次方：

   2^(-10) = 1/(2^10) = 1/1024 ≈ 0.0009765625
   

3. 计算最终数值
   将前两步结果相乘：

   WAVE_LTH = 25 × (1/1024) = 25/1024 ≈ 0.0244140625
   

补充说明 #

变量WAVE_LTH声明为FLOAT BINARY(21)，这是PL/1的单精度二进制浮点数（21位尾数），上述计算结果的精度完全在该类型的容纳范围内，不会出现精度丢失。

内容的提问来源于stack exchange，提问作者Nupur