浮点数与javascript

    xiaoxiao2023-10-09  148

    浮点数

    组成

    尾数部分 + 阶码部分

    计算机中的表示方法(这里以64位浮点数为例)

    阶符O±(1bit)阶码e(10bit)数符s±(1bit)尾数M(52bit) E:O+e

    说明:

    M:表示决定了浮点数的精确度E:表示决定了浮点数的取值范围:(-1023,1024)

    注意点:

    有效数字的第一位默认总是1,不保存在64位浮点数之中。也就是说,有效数字这时总是1.xx...xx的形式, 其中xx..xx的部分保存在64位浮点数尾数M之中,最长可能为52位。

    数值计算方法:

    X = (-1) s ×(1.M)×2^E

    数值的规定与计算

    当阶码E为全0且尾数M也为全0时,表示的值为零

    无穷

    e为全1表示无穷,由s的正负,存在 +∞,-∞

    最大值计算

    尾数M为全1,E为1023

    最小值计算

    尾数右移52位,E为-1022; 右移后,前面的尾数直接舍去(这里精度会下降)

    0.1在计算机中不能被精确表示?

    十进制小数转换成二进制小数采用"乘2取整,顺序排列"法。具体做法是:用2乘十进制小数,可以得到积,将积的整数部分取出,再用2乘余下的小数 部分,又得到一个积,再将积的整数部分取出,如此进行,直到积中的小数部分为零,或者达到所要求的精度为止。 举个栗子: 0.25 0.25 * 2 = 0.5 取 0 0.5 * 2 = 1.0 取 1 二进制数 : (0.01)B

    这里你会发现 0.1 的转换,最后会循环,因为尾数个数有限,最后截取了部分,所有计算机中0.1是不能准确表示。

    javascript中的浮点数

    JavaScript 内部,所有数字都是以64位浮点数形式储存,即使整数也是如此。

    验证

    无穷 Math.pow(2,1024); // Infinity 最大值 (2-Math.pow(2,-52))* Math.pow(2,1023); // 1.7976931348623157e+308 Number.MAX_VALUE; // 1.7976931348623157e+308 最小值 Math.pow(2,-52) * Math.pow(2,-1022); // 5e-324 Number.MIN_VALUE; // 5e-324
    最新回复(0)