定点数与浮点数区别

定点数与浮点数区别 最近做HDR 时，经常要用NV 提供的16 位纹理，它的说明书16 位能达到24 位的精度，就很奇怪？一直搞不懂浮点数的精度怎么算的？ 今天认真看了一下IEEE float

定点数与浮点数区别 HDRNV161624 最近做时，经常要用提供的位纹理，它的说明书位能达到位的 精度，就很 奇怪？一直搞不懂浮点数的精度怎么算的？ IEEEfloatpoint 今天认真看了一下的标准，终于明白是什么了 1. 什么是浮点数 在计算机系统的发展过程中，曾经提出过多种方法表达实数。典型的比如相对于浮 点数的定 FixedPointNumber 点数（）。在这种表达方式中，小数点固定的位于实数所有数字 中间的某 99.0000.99 个位置。货币的表达就可以使用这种方式，比如或者可以用于表达 具有四位 Precision 精度（），小数点后有两位的货币值。由于小数点位置固定，所以可以直 接用四位 SQLNUMBER 数值来表达相应的数值。中的数据类型就是利用定点数来定义的。 还有一种提 议的表达方式为有理数表达方式，即用两个整数的比值来表达实数。 定点数表达法的缺点在于其形式过于僵硬，固定的小数点位置决定了固定位数的整 数部分和 小数部分，不利于同时表达特别大的数或者特别小的数。最终，绝大多数现代的计 算机系统 采纳了所谓的浮点数表达方式。这种表达方式利用科学计数法来表达实数，即用一 个尾数