在C语言里面两个双精度型数据在计算的时候会出现误差,例如-9115536.832 + 9115535.478得到的结果是-1.35400000028312 ,而实际上应该为-1.354,那在Matlab里面是怎么处理这个误差的呢,也就是说计算的结果不是1.35400000028312,而是-1.354呢,请各位高手指点一下啊、、、
MATLAB C 计算误差
------解决方案--------------------
你需要什么?是计算结果不对,还是要搞懂为什么?
前者要看你需要的tolerance,后者需要看计算机浮点数表示方法
------解决方案--------------------
浮点数在计算机中的表示方法大致相同,如果会翻墙,看这个:http://goo.gl/nTE1d
否则自行搜索: IEEE 754