excel中小数相加的问题

ChinaOBS
独孤丘雪(Excel终极伴侣==www.ChinaOBS.com
等级:
可用分等级：掌柜
总技术分：17213
总技术分排名：791
3

7

发表于：2008-08-20 15:18:021楼得分:0

怎么会呢？下面的例子都输出：73.9415

VB code

Sub Test()
    Dim i As Double, j As Double
    i = 47.415
    j = 26.5265
    Debug.Print i + j
    Debug.Print 47.415 + 26.5265
End Sub

修改删除举报引用回复

baoguangya
蓝天白云
等级:
可用分等级：贫农
总技术分：556
总技术分排名：30875

发表于：2008-08-23 16:47:412楼得分:0

我试验了一下：

iif(cdbl(47.415)+cdbl(26.5265)=cdbl(73.9415),"True","False")返回的是False

iif(csng(47.415)+csng(26.5265)=csng(73.9415),"True","False")返回的是True

可见，在双精度类型时，47.415+26.5265是不等于73.9415的。

原因不明！

修改删除举报引用回复

gracexu
唐诗宋词
等级:
可用分等级：富农
总技术分：4338
总技术分排名：4810

发表于：2008-08-24 00:43:583楼得分:0

楼主说的没错,这个问题确实是由于双精度造成的.
双精度就是浮点数,当我们很明确的十进制小数.比如 0.1 ,用计算机二进制表示成浮点数的时候反而是个无限循坏小数.
换句话说,我们看上去很"精确"的十进制小数,表示成浮点数后反而会很复杂.
浮点数的加减乘除,当两个操作数的指数不一样时,会出现很多奇怪的结果.楼上做的那个双精度下的比较就说明了这个问题,
cdbl(47.415+26.5265-73.9415) 和
cdbl(4.7415*10+26.5265-73.9415)
两个结果也是不一样的,后者比前者要精确,因为把指数凑成一样的了.

楼上其实已经给出了解法,不要做浮点数表示的比较了.

修改删除举报引用回复