当前位置: 代码迷 >> J2SE >> 计算一/1600,精确到小数点后50位,看看错在哪了
  详细解决方案

计算一/1600,精确到小数点后50位,看看错在哪了

热度:98   发布时间:2016-04-23 20:05:44.0
计算1/1600,精确到小数点后50位,看看错在哪了

------解决思路----------------------
是Math.pow(double,double)的问题,在指数为23的时候,返回值有误差:
1.0000000000000001E23