0
点赞
收藏
分享

微信扫一扫

JavaScript计算精度失真问题

MaxWen 2022-02-16 阅读 44
javascript

在项目中,碰到一些需要计算的时候有时候会有精度丢失的问题,因为计算机在进行进制转换的时候丢失了精度

解决思路:把需要计算的数字乘以10的n次幂.变成计算机能够精确识别的整数

解决方案:

小数点相加

function  add(num1,num2){
let  baseNum,baseNum1,baseNum2;
try {
baseNum1=num1.toString.split('.')[1].length;
} catch (e){ baseNum1=0}
try {
baseNum2=num2.toString.split('.')[1].length;
} catch (e){ baseNum2=0}
baseNum=Math.pow(10,Math.max(baseNum1,baseNum2))
return (num1* baseNum+ num2* baseNum) / baseNum;
}

小数点减法

function subtract(num1,num2) {
let baseNum,baseNum1,baseNum2,accuracy;
try {
baseNum1=num1.toString.split('.')[1].length;
} catch (e){ baseNum1=0}
try {
baseNum2=num2.toString.split('.')[1].length;
} catch (e){ baseNum2=0}
baseNum=Math.pow(10,Math.max(baseNum1,baseNum2))
accuracy=baseNum1>=baseNum2?baseNum1:baseNum2
return ((num1*baseNum1-num2*baseNum2)/baseNum).tofixed(accuracy)
}

小数点乘法

 //乘法 
 function accMul(arg1,arg2) 
 { 
 var m=0,s1=arg1.toString(),s2=arg2.toString(); 
 try{m+=s1.split(".")[1].length}catch(e){} 
 try{m+=s2.split(".")[1].length}catch(e){} 
 return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) 
 } 

除法

function accDiv(arg1,arg2){ 
 var t1=0,t2=0,r1,r2; 
 try{t1=arg1.toString().split(".")[1].length}catch(e){} 
 try{t2=arg2.toString().split(".")[1].length}catch(e){} 
 with(Math){ 
 r1=Number(arg1.toString().replace(".","")) 
 r2=Number(arg2.toString().replace(".","")) 
 return accMul((r1/r2),pow(10,t2-t1)); 
 } 
 } 
举报

相关推荐

0 条评论