什么是单精度和双精度_单精度和双精度浮点数表示方法

2023-10-01 01:08:29   文档大全网     [ 字体: ] [ 阅读: ]

#文档大全网# 导语】以下是®文档大全网的小编为您整理的《什么是单精度和双精度_单精度和双精度浮点数表示方法》,欢迎阅读!
单精度,精度,点数,表示,方法
什么是单精度和双精度_单精度和双精度浮点数表示方法

单精度是什么意思单精度数是指计算机表达实数近似值的一种方式。VB

Single(单精度浮点型)变量存储为 IEEE 32 位(4 个字节)浮点数值的形式,它的范围在负数的时候是从 -3.402823E38 -1.401298E-45,而在正数的时候是从 1.401298E-45 3.402823E38

双精度是什么意思在计算机里实数中的浮点数是以科学计数法存储,所以在存储和读取的时候需要考虑精度的问题,但是,由于数据的使用需要,也会有不同精度的需要,例如存储身高信息和存储卫星的飞行信息要求的精度必要是不一样的,再者,考虑存储信息的效率问题,同样大小的存储介质存储高精度的信息必然比低精度的信息要多,为了平衡,所有就有单精度float和双精度double同样是61.1126537这个数,经过计算机处理后用float存储和赌博了存储是不一样的。

浮点数的表示和精度如果a0,那么1+a一定大于1吗?在数学上,答案是肯定的。但在计算机上,答案就与a的大小和浮点数的精度有关了。在matalb上,可以作以下计算: a=1/24 a =

2.220446049250313e-016 1+a1 ans = 1

a=1/25 a =

1.110223024625157e-016 1+a1 ans = 0

可见,当a等于1/25时,1+a1是不成立的。

1 浮点数IEEE754定义了单精度浮点数和双精度数浮点数,floatdoublefloat32bit


本文来源:https://www.wddqxz.cn/82dba596a200a6c30c22590102020740bf1ecd6f.html

相关推荐