js加减乘除丢失精度问题解决方法_js除法精度问题 - CSDN文库

96 浏览量更新于2023-05-04 收藏 29KB PDF 举报

身份认证购VIP最低享 7 折!

领优惠券(最高得80元）

资源详情

资源推荐

js加减乘除丢失精度问题解决方法加减乘除丢失精度问题解决方法

在javascript中，当你使用小数进行加减乘除运算时，你会发现，所得到的结果有时后面带有长长的一段小数，使运算变得复

杂，并且影响计算结果。上网查询了一下原因，大致如下：在javascript中，带小数的数据运算时总会出现好多位小数.这是因

为在javascript中浮点数的计算是以2进制计算的。

代码如下:

/**

* 加法运算，避免数据相加小数点后产生多位数和计算精度损失。

*

* @param num1加数1 | num2加数2

*/

function numAdd(num1, num2) {

var baseNum, baseNum1, baseNum2;

try {

baseNum1 = num1.toString().split(“.”)[1].length;

} catch (e) {

baseNum1 = 0;

}

try {

baseNum2 = num2.toString().split(“.”)[1].length;

} catch (e) {

baseNum2 = 0;

}

baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));

return (num1 * baseNum + num2 * baseNum) / baseNum;

};

/**

* 加法运算，避免数据相减小数点后产生多位数和计算精度损失。

*

* @param num1被减数 | num2减数

*/

function numSub(num1, num2) {

var baseNum, baseNum1, baseNum2;

var precision;// 精度

try {

baseNum1 = num1.toString().split(“.”)[1].length;

} catch (e) {

baseNum1 = 0;

}

try {

baseNum2 = num2.toString().split(“.”)[1].length;

} catch (e) {

baseNum2 = 0;

}

baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));

precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;

return ((num1 * baseNum – num2 * baseNum) / baseNum).toFixed(precision);

};

/**

* 乘法运算，避免数据相乘小数点后产生多位数和计算精度损失。

*

* @param num1被乘数 | num2乘数

*/

function numMulti(num1, num2) {

var baseNum = 0;

try {

baseNum += num1.toString().split(“.”)[1].length;

} catch (e) {

}

try {

baseNum += num2.toString().split(“.”)[1].length;

} catch (e) {

}

return Number(num1.toString().replace(“.”, “”)) * Number(num2.toString().replace(“.”, “”)) / Math.pow(10, baseNum);

};

/**

* 除法运算，避免数据相除小数点后产生多位数和计算精度损失。

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余1页未读，立即下载

weixin_38587155

粉丝: 7
资源: 908

会员权益专享

图片转文字

全年可省5，000元立即开通

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈