基于JavaScript的在线计算器使用64位双精度浮点运算，提供大约15到17位有效十进制数字的精度。 实际上，这意味着你可以信赖结果的精确度达到大约第15位数字。对于科学、工程和日常财务来说，这种精度绰绰有余——但它并非无限，某些极端情况会暴露其限制。
“15到17位有效数字”在实际中的含义
有效数字是指数字中有意义的数字，从第一个非零数字开始计数。一个具有15位精度的计算器可以准确处理像123,456,789,012.345这样的数值——总共15位数字。添加第16或第17位数字时，结果可能在最后一位上出现一单位的偏差。
这由IEEE 754双精度标准定义，该标准使用64位：1位符号，11位指数，52位小数部分（尾数）。这52位大约提供log₁₀(2⁵²) ≈ 15.65位十进制数字的精度。JavaScript的Number.EPSILON，即该格式能表示的最小差值，约为2.22 × 10⁻¹⁶——比一千万亿分之一还小的数字。
该计算器如何利用这种精度
上述计算器在整个计算过程中以完整的双精度存储每个中间值。当最终结果准备好时，会四舍五入到小数点后10位再显示。这个显示四舍五入是有意为之：它去除了微小的浮点误差（比如尾随的...00000000004），这些误差本会出现在像0.1 + 0.2这样的结果中。底层的15-17位精度用于计算；10位小数的显示仅为易读性考虑。
15位精度何时足够，何时不足
- 学校和大学作业——物理、化学和工程问题很少需要超过6-8位有效数字。双精度大约有两倍的余量。
- 财务计算——货币值通常保留2位小数；即使涉及数万亿美元的计算，总共约15位数字也足够。
- 科学常数——光速、阿伏伽德罗常数等值本身实验测定的有效数字约为10-12位，因此计算器不是限制因素。
- 多次小数连锁计算——舍入误差可能在长链中累积。结果通常仍然正确到10位以上，但对于关键任务计算，使用支持任意精度的专业工具更合适。
- 密码学和数论——这些领域常处理数百位的整数。标准双精度计算器无法精确表示这些数，完全不适用。
测试极限：在上方计算器中输入999999999999999 + 1。你会得到1000000000000000——精确，因为两个数字都在15位有效数字范围内。尝试输入9999999999999999 + 1（16个9），结果可能不会如预期递增，因为你已超出双精度能精确表示的范围。