验货员论坛

 找回密码
 注册
搜索
查看: 1381|回复: 8
打印 上一主题 下一主题

有效数字的混合运算

[复制链接]
跳转到指定楼层
1#
发表于 2011-9-1 18:14:18 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
教材上写的
为防止误差迅速累加,对参加运算的数据合中间运算结果可先多保留一位有效数字,
运算后将结果修约成与最大误差数据相当的位数.
例如:
(673-119+119×0.094)×(12.8-9.5)
————————————————————
403.7×(100.11-12.8)

(554+11.2)×3.3
= ------------------
404×87.5 ————87.5是如何来的,100.11---100,
100-12.8=87.2 ,分母:404x87.2
= 186/353

= 0.53

上题中9.5第一位数字是9,按规则可以看成三位有效数字,所以结果该取三位啊。

如果是这样应该是这样算的

(673-119+119×0.094)×(12.8-9.5)
————————————————————
403.7×(100.11-12.8)

(554+11.2)×3.3 (554+11.2)×3.3
= ------------------------= ---------------------------
404×(100-12.8) 404x87.2

1865.16 186x10
= ----------- = ------------ = 0.05284090909 = 0.0528.
35228.8 352x100
2#
发表于 2011-9-1 18:14:29 | 只看该作者
啥意思啊???
3#
发表于 2011-9-1 18:14:39 | 只看该作者
LZ说的没错
4#
发表于 2011-9-1 18:14:53 | 只看该作者
第一次的结果是0.53,第二次的结果是0.0528,整个差了10倍,或许是哪裹出了问题,
一般都是计算时最后以数值圆整法采取有效位数,不过不了解楼主之意涵也不便多说。
5#
发表于 2011-9-1 18:15:05 | 只看该作者
第一位数字等于或者大于8,有效数字总位数可多算一位,0.094确实可以看成是三位有效数字,同样

9.5也可以看成是3位有效数字,可以看成是9.51,9.52直到9.54,但是!!在12.8-9.5这个计算里,按

照加法规则,以绝对误差最大的数据为准,修约其他数据,使各数据的绝对误差一致后在进行加减计

算,一般以小数点后位数最少的数据为准,所以9.5这个三位有效数字,应该先修约到9.5两位有效数

字,小数点后一位就可以,再进行加减计算,然后得出结果3.3也是小数点后一位,绝对误差保持一

致。但是还有一个数字,而100.11-12.8,按照加减法则,应该是87.3 (100.1-12.8)。这是我看过多篇有

效数字的运算法则后,重新对这个计算法则的理解。
6#
发表于 2011-9-1 18:15:20 | 只看该作者
(673-119+119×0.094)×(12.8-9.5)
————————————————————
403.7×(100.11-12.8)

(554+11.2)×3.3 (554+11.2)×3.3
= ------------------------= ---------------------------
404×(100.1-12.8) 404x87.3

565.2×3.3 5.7×3.3×10 19×10
= ------------------------ = ------------------- = --------------------- = 0.0527778 约等于 0.053
404×87.3 4.0×9×100 36×100

这是我对于混合运算的理解,如有错误,请老师指正.

我看了题目的每一步有加法,乘法,都应用了相应法则的修约规则.
因为3.3有效数字最少,所以运算的结果保留2位有效数字.
7#
发表于 2011-9-1 18:15:34 | 只看该作者
我是这么认为的,题目中0.094是两位有效数字,所以结果应该也两位有效数字
8#
 楼主| 发表于 2011-9-1 18:15:48 | 只看该作者
0.094确实是两位有效数字,结果页该保留两位
9#
发表于 2011-9-1 18:16:02 | 只看该作者
好难啊...

就要考试了 心里没底
您需要登录后才可以回帖 登录 | 注册

本版积分规则

小黑屋|手机版|Archiver|外贸验货员网

GMT+8, 2025-1-23 11:16 , Processed in 0.049636 second(s), 19 queries , Gzip On.

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表