关于模拟量线性变换精度问题 点击:315 | 回复:3



krones36000

    
  • 精华:0帖
  • 求助:3帖
  • 帖子:3帖 | 28回
  • 年度积分:0
  • 历史总积分:24
  • 注册:2013年4月14日
发表于:2014-02-23 12:43:58
楼主

各位老师,线性变换时上限,有的是2.764800e+003有的是2.764800e+004?

10的3次幂和4次幂,和选的模块精度有关?





  • 精华:0帖
  • 求助:0帖
  • 帖子:0帖 | 455回
  • 年度积分:0
  • 历史总积分:1000
  • 注册:2008年1月09日
发表于:2014-02-24 17:11:41
1楼

估计是写错了,或者测量的单位以0.1为单位,一般都是27648

金牛机械

  • 精华:0帖
  • 求助:0帖
  • 帖子:0帖 | 22回
  • 年度积分:0
  • 历史总积分:563
  • 注册:2014年1月27日
发表于:2014-02-24 19:03:18
2楼

不清楚,也非常想了解一下。

krones36000

  • 精华:0帖
  • 求助:3帖
  • 帖子:3帖 | 28回
  • 年度积分:0
  • 历史总积分:24
  • 注册:2013年4月14日
发表于:2014-02-28 20:36:39
3楼

回复内容:

对:   估计是写错了,或者测量的单位以0.1为单位,一般都是2... 内容的回复!


谢谢解答,和模块精度没关系是吧


热门招聘
相关主题

官方公众号

智造工程师