关闭

js封装加减乘除四则运算解决精度丢失的问题

来源:网络 文章列表 2020-05-18 8
计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926...,1.3333... 等。JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit

计算精度,特别是浮点数计算。举个栗子

JS 数字丢失精度的原因

计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926...,1.3333... 等。JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit。如图

意义

  • 1位用来表示符号位
  • 11位用来表示指数
  • 52位表示尾数

 

浮点数,比如

0.1 >> 0.0001 1001 1001 1001…(1001无限循环)
0.2 >> 0.0011 0011 0011 0011…(0011无限循环)

此时只能模仿十进制进行四舍五入了,但是二进制只有 0 和 1 两个,于是变为 0 舍 1 入。这即是计算机中部分浮点数运算时出现误差,丢失精度的根本原因。

大整数的精度丢失和浮点数本质上是一样的,尾数位最大是 52 位,因此 JS 中能精准表示的最大整数是 Math.pow(2, 53),十进制即 9007199254740992。

大于 9007199254740992 的可能会丢失精度

9007199254740992     >> 10000000000000...000 // 共计 53 个 0
9007199254740992 + 1 >> 10000000000000...001 // 中间 52 个 0
9007199254740992 + 2 >> 10000000000000...010 // 中间 51 个 0

知道原因后,然后我寻求各种解决办法,其中用了lodash,ramda提供的四则运算。结果发现并没有完全的解决这个问题, 怎么办呢?  

然后我各种百度借鉴大神的解决办法, 一波三折又发现一个问题。大神在封装四则运算的时候, 用了toFixed 方法。然而这个方法也有坑,举个栗子。

所以通过上图我们发现 类似这种2.55 这个变态数字取特殊小数位的时候和其他不一样。

经过的不断的研究和测试最终 封装了五个方法下面贴源代码:

// 自己实现
const toFixed = (num, n) => {
  if(num < 0) {
    num = -num
  } else {
    return -(parseInt(((num * (Math.pow(10, n))) + 0.5), 10) / Math.pow(10, n))
  }
  return parseInt(((num * (Math.pow(10, n))) + 0.5), 10) / Math.pow(10, n)
}
// 两个浮点数求和
const Add = (num1, num2) => {
  let r1, r2, m
  try {
    r1 = `${num1}`.split('.')[1].length
  } catch (e) {
    r1 = 0
  }
  try {
    r2 = `${num2}`.split('.')[1].length
  } catch (e) {
    r2 = 0
  }
  m = Math.pow(10, Math.max(r1, r2))
  return Math.round(num1 * m + num2 * m) / m
}
// 两个浮点数相减
const Sub = (num1, num2) => {
  let r1, r2, m, n
  try {
    r1 = `${num1}`.split('.')[1].length
  } catch (e) {
    r1 = 0
  }
  try {
    r2 = `${num2}`.split('.')[1].length
  } catch (e) {
    r2 = 0
  }
  m = Math.pow(10, Math.max(r1, r2))
  n = (r1 >= r2) ? r1 : r2
  return toFixed((Math.round(num1 * m - num2 * m) / m), n)
}
// 两个浮点数相乘
const Mul = (num1, num2) => {
  let m = 0, s1 = `${num1}`, s2 = `${num2}`
  try {
    m += s1.split('.')[1].length
  } catch (e) {}
  try {
    m += s2.split('.')[1].length
  } catch (e) {}
  return Number(s1.replace('.', '')) *
  Number(s2.replace('.', '')) /
  Math.pow(10, m)
}
// 两个浮点数相除
const Div = (num1, num2) => {
  let t1, t2, r1, r2
  try {
    t1 = `${num1}`.split('.')[1].length
  } catch (e) {
    t1 = 0
  }
  try {
    t2 = `${num2}`.toString().split('.')[1].length
  } catch (e) {
    t2 = 0
  }
  r1 = Number(`${num1}`.replace('.', ''))
  r2 = Number(`${num2}`.toString().replace('.', ''))
  return (r1 / r2) * Math.pow(10, t2 - t1)
}
module.exports = {
  toFixed,
  Add,
  Sub,
  Mul,
  Div
}

 

版权声明

本站部分原创文章,部分文章整理自网络。如有转载的文章侵犯了您的版权,请联系站长删除处理。如果您有优质文章,欢迎发稿给我们!联系站长:
愿本站的内容能为您的学习、工作带来绵薄之力。

评论

  • 随机获取
点击刷新
精彩评论
关闭