lovewtf
有十个数前九个数按第十个数变化的比例同步变化,用什么数字类型比较精确???我用二进制浮点数计算,现在有这么个问题:反复变化后前面数字有差异,例如第十个数由8变为9,然后在变为8。前面9个数有的就不准了。
A----B B----C
8----9 9---8
如上所示有时A和C就有点小差别???望高手指点迷津!!!!十分感谢。。不知道有没有人遇到过这种情况!!!
liujian5118-PLC技术军团
用整数做,最后再转浮点呢? 是不是二进制存贮的原因啊?
回复内容:
对: liujian5118-PLC技术军团 用整数做,最后再转浮点呢? 是不是二进制存贮的原因啊? 内容的回复!
怎么没有高手支招呢???难道大家都没遇到过!!