【原创】四舍六入五留双的疑问与excel中的实现

hongyu

高手，学习 下

亡灵J.

伊娃瓦力 发表于 2016-7-17 16:50
不过还有个疑问，就是当你的记录有很多个等号，每个等号的结果都进行修约了，这样修约后的数据再进行计算得 ...

就因为很多等号 不停的修约 才会有误差  所以才会有四舍六入 这条规则   就是为了减少误差   
但是在计算机计算中  感觉就没必要了  结果更精确了  

亡灵J.

风。。。 发表于 2016-7-18 08:46
有必要的目的是什么，是为了减小误差吗，结果更准确吗，呵呵。

电脑也可以做到 比如你最终保留两位小数  那么每步的计算都保留三位  最终修约到2位    这样和手算就一样了
也可以直接计算 最终结果肯定和分步计算有点误差   但是这个计算的结果更精确  因为每一步都保留了很多位的小数

风。。。

亡灵J. 发表于 2016-7-18 10:10
电脑也可以做到 比如你最终保留两位小数  那么每步的计算都保留三位  最终修约到2位    这样和手算就一样 ...

可以考虑咯，

伊娃瓦力

亡灵J. 发表于 2016-7-18 10:06
就因为很多等号 不停的修约 才会有误差  所以才会有四舍六入 这条规则   就是为了减少误差   
但是在计 ...

是的。很赞成你的观点

Fay

其实函数内的代码简化成一行就可以搞定：
Private Function sslr(X As Double, mm As Integer) As Double
SSLR = CLng(CStr(x * 10 ^ mm)) / (10 ^ mm)
End Function

亡灵J.

Fay 发表于 2016-7-18 12:15
其实函数内的代码简化成一行就可以搞定：
Private Function sslr(X As Double, mm As Integer) As Double
...

我试了下这个代码 确实可以呢   能不能稍微解释一下
Clng 是转化为 long
Cstr 是转换为字符串
为什么这样一写就可以实现了

tiantiancw

关键是验证难啊

Fay

亡灵J. 发表于 2016-7-18 15:23
我试了下这个代码 确实可以呢   能不能稍微解释一下
Clng 是转化为 long
Cstr 是转换为字符串

CLng函数是转换成长整型数值，但它有个特点是会将数值四舍五入为最接近该数的偶数，注意“偶数”，其实就是五成双了。
如果是直接用数值的话，单独用这个函数是没问题的，比如CLng(13.5)，没问题；
但如果是经过计算的话，电脑内部储存的实际结果可能会有尾数，只是隐藏不显示出来，就是说后面不是刚好为5了；
比如 4.105*100 和 410.5 会不同的，4.105*100 结果在电脑内部储存的可能是410.5000000000000000001，会进上去；
所以用CStr转换为文本，截断了后面隐藏的尾数，再用CLng转回来，就可以解决了！

亡灵J.

Fay 发表于 2016-7-18 16:07
CLng函数是转换成长整型数值，但它有个特点是会将数值四舍五入为最接近该数的偶数，注意“偶数”，其实就 ...

原来如此  谢谢解答  

空灵

excel不是有自带的公式么

哈里巴人

感觉来错地方了

xtdwwx

看着就晕菜了，晕菜

爱的传承

我需要好好再学习一下才行！！谢谢分享1

hl241

NB ~~~~~~~~~~~~~~

xiaoker

谢谢分享，IT高手

大草原制药人

很正确；也很适用。

hanhan

谢谢分享，IT高手

kkkkkking

肯钻研，都是难得的。

nqshu86

计算的过程没有修约的必要的，修约次数越多，误差越大！