验货员论坛

标题: 有效数字的混合运算 [打印本页]

作者: sd929898 时间: 2011-9-1 18:14
标题: 有效数字的混合运算
教材上写的
为防止误差迅速累加,对参加运算的数据合中间运算结果可先多保留一位有效数字，
运算后将结果修约成与最大误差数据相当的位数.
例如:
（673－119＋119×0.094）×（12.8－9.5）
————————————————————
403.7×（100.11－12.8）

（554+11.2）×3.3
= ------------------
404×87.5 ————87.5是如何来的，100.11---100，
100-12.8=87.2 ，分母：404x87.2
= 186/353

= 0.53

上题中9.5第一位数字是9，按规则可以看成三位有效数字，所以结果该取三位啊。

如果是这样应该是这样算的

（673－119＋119×0.094）×（12.8－9.5）
————————————————————
403.7×（100.11－12.8）

（554+11.2）×3.3 （554+11.2）×3.3
= ------------------------= ---------------------------
404×(100-12.8) 404x87.2

1865.16 186x10
= ----------- = ------------ = 0.05284090909 = 0.0528.
35228.8 352x100

作者: d60102224 时间: 2011-9-1 18:14
啥意思啊？？？

作者: xshrmm 时间: 2011-9-1 18:14
LZ说的没错

作者: qinglang 时间: 2011-9-1 18:14
第一次的结果是0.53，第二次的结果是0.0528，整个差了10倍，或许是哪裹出了问题，
一般都是计算时最后以数值圆整法采取有效位数，不过不了解楼主之意涵也不便多说。

作者: ll123456 时间: 2011-9-1 18:15
第一位数字等于或者大于8，有效数字总位数可多算一位，0.094确实可以看成是三位有效数字，同样

9.5也可以看成是3位有效数字，可以看成是9.51，9.52直到9.54，但是！！在12.8-9.5这个计算里，按

照加法规则，以绝对误差最大的数据为准，修约其他数据，使各数据的绝对误差一致后在进行加减计

算，一般以小数点后位数最少的数据为准，所以9.5这个三位有效数字，应该先修约到9.5两位有效数

字，小数点后一位就可以，再进行加减计算，然后得出结果3.3也是小数点后一位，绝对误差保持一

致。但是还有一个数字,而100.11-12.8，按照加减法则，应该是87.3 (100.1-12.8)。这是我看过多篇有

效数字的运算法则后，重新对这个计算法则的理解。

作者: ll123456 时间: 2011-9-1 18:15
（673－119＋119×0.094）×（12.8－9.5）
————————————————————
403.7×（100.11－12.8）

（554+11.2）×3.3 （554+11.2）×3.3
= ------------------------= ---------------------------
404×(100.1-12.8) 404x87.3

565.2×3.3 5.7×3.3×10 19×10
= ------------------------ = ------------------- = --------------------- = 0.0527778 约等于 0.053
404×87.3 4.0×9×100 36×100

这是我对于混合运算的理解,如有错误,请老师指正.

我看了题目的每一步有加法,乘法,都应用了相应法则的修约规则.
因为3.3有效数字最少，所以运算的结果保留2位有效数字.

作者: ehfhhe 时间: 2011-9-1 18:15
我是这么认为的，题目中0.094是两位有效数字，所以结果应该也两位有效数字

作者: sd929898 时间: 2011-9-1 18:15
0.094确实是两位有效数字，结果页该保留两位

作者: 04211 时间: 2011-9-1 18:16
好难啊...

就要考试了心里没底

欢迎光临验货员论坛 (http://bbs.wtoqc.net/)