发现javascript的Math.pow()的计算结果存在误差,比如12*Math.pow(10, -1)的输出结果是1.2000000000000002,怎样才能让Math.pow()输出精确的结果,需要用Math.pow()进行大量计算,求帮忙!
javascript
Math.pow()
计算精度
误差
------解决方案--------------------
楼主搜下
js小数误差
------解决方案--------------------
console.log(12/10*10*Math.pow(10, -1));
console.log(Math.pow(10, -1)*12/10*10);
console.log(Math.pow(10, -1)*10*12/10);/*这个是正确的*/
一般是先将小数转换成整数再来求值。
下面这段话是javascript语言精粹上的关于js处理小数的问题,最近正在看的一杯书。
------解决方案--------------------
js做小数运算确实比较头疼