renf 发表于 2011-12-14 09:03

为何在matlab中 0.3+0.15-0.45不等于0

>> 0.3+0.15-0.45
ans =
-5.5511e-017

(0.3+0.15)==0.45判断结果为0

试了几个其他的类似三个浮点数加减,结果都为0,这个为何不为0 ?

renf 发表于 2011-12-14 13:43

看到别人的解答,明白原因了,计算机中计算使用二进制造成的。
页: [1]
查看完整版本: 为何在matlab中 0.3+0.15-0.45不等于0