请教高手FX1N的计算问题 点击:418 | 回复:2



haniwood

    
  • 精华:0帖
  • 求助:0帖
  • 帖子:1帖 | 23回
  • 年度积分:0
  • 历史总积分:162
  • 注册:2007年10月12日
发表于:2008-03-01 13:31:00
楼主
用D100的数除D120的数放在D130,D100和D120的值随机变化的,因1N无浮点运算,我要求精确到小数点后两位数,各位大侠有什么好的办法?



renold05330

  • 精华:0帖
  • 求助:0帖
  • 帖子:0帖 | 14回
  • 年度积分:0
  • 历史总积分:32
  • 注册:2006年11月05日
发表于:2010-07-12 20:14:38
1楼

变换数量的单位,乘以1000后在运算,后在转换单位

芳季

  • [版主]
  • 精华:5帖
  • 求助:5帖
  • 帖子:86帖 | 5336回
  • 年度积分:0
  • 历史总积分:20165
  • 注册:2003年1月31日
发表于:2010-07-13 20:07:43
2楼

用32位计算。原来的值先右移8位。然后计算。结果再左移8位。


热门招聘
相关主题

官方公众号

智造工程师