数学建模社区-数学中国

标题: 为何在matlab中 0.3+0.15-0.45不等于0 [打印本页]

作者: renf    时间: 2011-12-14 09:03
标题: 为何在matlab中 0.3+0.15-0.45不等于0
>> 0.3+0.15-0.457 O$ B4 r. m  L5 j' g9 ^
ans =, G8 `, t# |/ ?+ |
-5.5511e-017
2 |4 t6 D6 P1 L! Z
' ^( g# T) o1 ]% ]# u7 v7 A(0.3+0.15)==0.45判断结果为0( f7 r/ }+ A- i5 T* J% G  a; k

3 q# e6 E: Q2 D' S* R试了几个其他的类似三个浮点数加减,结果都为0,这个为何不为0 ?
作者: renf    时间: 2011-12-14 13:43
看到别人的解答,明白原因了,计算机中计算使用二进制造成的。




欢迎光临 数学建模社区-数学中国 (http://www.madio.net/) Powered by Discuz! X2.5