plc数学计算用什么数字类型 点击:427 | 回复:2



lovewtf

    
  • 精华:0帖
  • 求助:32帖
  • 帖子:35帖 | 103回
  • 年度积分:0
  • 历史总积分:121
  • 注册:2011年1月17日
发表于:2015-01-26 19:04:33
楼主

有十个数前九个数按第十个数变化的比例同步变化,用什么数字类型比较精确???我用二进制浮点数计算,现在有这么个问题:反复变化后前面数字有差异,例如第十个数由8变为9,然后在变为8。前面9个数有的就不准了。

A----B    B----C

8----9    9---8

如上所示有时A和C就有点小差别???望高手指点迷津!!!!十分感谢。。不知道有没有人遇到过这种情况!!!




liujian5118-PLC技术军团

  • 精华:2帖
  • 求助:8帖
  • 帖子:31帖 | 3109回
  • 年度积分:199
  • 历史总积分:19924
  • 注册:2009年3月25日
发表于:2015-01-26 21:17:45
1楼

用整数做,最后再转浮点呢? 是不是二进制存贮的原因啊?

lovewtf

  • 精华:0帖
  • 求助:32帖
  • 帖子:35帖 | 103回
  • 年度积分:0
  • 历史总积分:121
  • 注册:2011年1月17日
发表于:2015-01-28 19:26:38
2楼


回复内容:

对: liujian5118-PLC技术军团 用整数做,最后再转浮点呢? 是不是二进制存贮的原因啊? 内容的回复!


回复内容:

对: liujian5118-PLC技术军团 用整数做,最后再转浮点呢? 是不是二进制存贮的原因啊? 内容的回复!

怎么没有高手支招呢???难道大家都没遇到过!!


热门招聘
相关主题

官方公众号

智造工程师