发布网友 发布时间:2022-05-12 07:11
共4个回答
热心网友 时间:2024-02-19 09:37
float精度是2^23,能保证6位。热心网友 时间:2024-02-19 09:38
显示的时候都是6位(dec),但是float尾数有23bit,double有52bit。也就是说,float精度约为1.1×10∧-7,double为 2.2×10∧-16。以上是一般情况追答对不起,上面科学计数法的指数应该加一
热心网友 时间:2024-02-19 09:38
float有效位是6位,double是15位。如果要更多有效位最好使用定点数来代替浮点数,定点数本质是整数,只是把最后几位当作小数部分处理,从而实现更多有效位。热心网友 时间:2024-02-19 09:39
这个是不确定的,因为大小不确定,float如果没记错应该是能保证6位有效数字,double最小能保证8位有效数字