欢迎 游客 , 注册 | 登录 | 会员 | 界面 | 简洁版本 | 在线 | 帮助
中国计量论坛

发表新主题 回复该主题
本主题被查看4262次, 共3个帖子, 1页, 当前为第1页     选择页数: 1      跳转到第   上一主题   下一主题
标题: 急问:有效数字运算规则
新手上路
UID: 3072
来自:
精华: 0
积分: 2
帖子: 2
注册: 2009-3-16 11:01:00
状态: 离线
威望: 0
金钱: 0.50 元
只看楼主 2009-03-16 11:23
急问:有效数字运算规则
乘除法:乘除运算中,保留有效数字的位数以位数最少的数为准,即以相对位数最大的为准.
对于乘除法,以下的情况该怎么办啊?
1000.2*0.1*2 = 200.04, 可是根据上面的规则只能保留一位有效数字, 那怎么办啊?
类似的还是有12.2除以0.1 ,结果是多少啊?
还有这个标准是谁制定的?到哪里去查? 谢谢了,各位!
#1  
susie
Medal No.1
超级版主
UID: 10
来自: china
精华: 0
积分: 7261
帖子: 7261
注册: 2007-12-14 9:56:00
状态: 离线
威望: 0
金钱: 1775.95 元
2009-03-17 18:29
回复: 急问:有效数字运算规则
有效数字运算规则
由于与误差传递有关,计算时加减法和乘除法的运算规则不太相同。
1. 加减法
先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。
例:计算50.1+1.45+0.5812=?
修约为:50.1+1.4+0.6=52.1
先修约,结果相同而计算简捷。
例:计算 12.43+5.765+132.812=?
修约为:12.43+5.76+132.81=151.00
注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字。
2. 乘除法
先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。
例:计算0.0121×25.64×1.05782=?
修约为:0.0121×25.6×1.06=?
计算后结果为:0.3283456,结果仍保留为三位有效数字。
记录为:0.0121×25.6×1.06=0.328
注意:用计算器计算结果后,要按照运算规则对结果进行修约
例:计算2.5046×2.005×1.52=?
修约为:2.50×2.00×1.52=?
计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字。
2.50×2.00×1.52=7.60

以上仅供参考,不知道能不能帮上你,

sign.
#2  
奥秋仪器
中级会员
UID: 3278
来自: 上海
精华: 0
积分: 213
帖子: 213
注册: 2009-4-6 10:17:00
状态: 离线
威望: 0
金钱: 22.95 元
2009-04-07 11:20
回复:急问:有效数字运算规则
学习中

#3  
发表新主题 回复该主题
本主题被查看4262次, 共3个帖子, 1页, 当前为第1页     选择页数: 1      跳转到第







现在的时间是 2012-05-19 04:10:36

版权所有 中国计量  
         Powered by Discuz!NT 1.0.2656    Copyright © 2001-2012 Comsenz Inc.
Processed in 0 seconds