请教 点击:797 | 回复:1



苦学

    
  • 精华:0帖
  • 求助:0帖
  • 帖子:28帖 | 1034回
  • 年度积分:2
  • 历史总积分:2430
  • 注册:2005年3月13日
发表于:2006-09-15 15:18:00
楼主
有高手知道浮点运算是怎么回事吗,请告知,不胜感激



亦云人云

  • 精华:5帖
  • 求助:0帖
  • 帖子:102帖 | 2351回
  • 年度积分:0
  • 历史总积分:3114
  • 注册:2004年11月10日
发表于:2006-09-15 15:35:00
1楼
http://zhidao.baidu.com/question/3746737.html
浮点运算是什么?

最佳答案
就是实数运算,因为计算机只能存储整数,所以实数都是约莫,这样浮点运算是很慢的而且会有误差 

现在大多数机器都是32位的,也就是说32位都用来表示整数的话,那么对于无符号整数就是0 到 2^32-1,对于有符号的话就是-2^31 到 2^31-1。如果是实数的话,就不是这样了,机器有两种办法表示实数,一种是定点,就是小数点位置是固定的,一种是浮点,就是小数点位置不固定,计算方法也比较麻烦,通常会比整数运算代价大很多

热门招聘
相关主题

官方公众号

智造工程师