当前位置: 代码迷 >> JavaScript >> 解决javascript的Math.pow()误差有关问题
  详细解决方案

解决javascript的Math.pow()误差有关问题

热度:539   发布时间:2013-02-27 10:48:11.0
解决javascript的Math.pow()误差问题
发现javascript的Math.pow()的计算结果存在误差,比如12*Math.pow(10, -1)的输出结果是1.2000000000000002,怎样才能让Math.pow()输出精确的结果,需要用Math.pow()进行大量计算,求帮忙!
javascript Math.pow() 计算精度 误差

------解决方案--------------------
楼主搜下
js小数误差
------解决方案--------------------

console.log(12/10*10*Math.pow(10, -1));
console.log(Math.pow(10, -1)*12/10*10);
console.log(Math.pow(10, -1)*10*12/10);/*这个是正确的*/

一般是先将小数转换成整数再来求值。
下面这段话是javascript语言精粹上的关于js处理小数的问题,最近正在看的一杯书。


------解决方案--------------------
js做小数运算确实比较头疼
  相关解决方案