还剩6页未读,继续阅读
文本内容:
学习资料数值修约规则云南XX建设工程质量检测有限公司总工程师办公室2022年12月数值修约规则
一、有效数字
1、(末)的概念所谓(末),指的是任何一个数最末一位数所对应的单位量值例如用分度值为1mm的钢卷尺测量某物体的长度,测量结果为
19.8mm最末一位量值为
0.8mm即为最末一位数字8与其所对应的单位量值
0.1mm的乘积,故
19.8mm的(末)为
0.1mmo
2、有效数字的概念人们在日常生活中接触到的数,有准确数和近似数对于任何数,包括无限不循环小数和循环小数,截取一定位数后所得的即是近似数同样,根据误差公理,测量总是存在误差,测量结果只能是一个接近于真值的估计值,其数字也是近似数例如将无限不循环小数片
3.14159……截取到百分位,可得到近似数
3.14则此时引起的误差绝对值为I
3.14-
3.14159|=
0.00159近似数
3.14的(末)为
0.01因止匕
0.5(末)=
0.5x
0.01=
0.005而
0.
001590.005故近似数
3.14的误差绝对值小于
0.5(末)由此可以得出关于近似数有效数字的概念:当该近似数的绝对误差的模小于
0.5(末)时,从左边的第一个非零数字算起,直到最末一位数字为止的所有数字根据这个概念
3.14有3个有效数字测量结果的数字,其有效位数代表结果的不确定度,例如:某长度测量值为
19.8mm有效位数为3位;若是
19.80mm有效位数为4位它们的绝对误差的模分别小于
0.5(末),即分别小于
0.05mm和
0.005mm0显而易见,有效位数不同,它们的测量不确定度也不同测量结果
19.80mm比
19.8mm的不确定度要小同时,数字右边的“0”不能随意取舍,因为这些“0”都是有效数字.
3、数值的有效位数对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(既仅为定位用的零)的个数;对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数例135000若有2个无效零,则为三位有效数位,应写成350x102若有3个无效零,则为二位有效数位,应写成35x103例
23.
20.
320.
0320.0032均为二位有效位;
0.0320为三位有效位数例
312.490为五位有效位数,
10.00为四位有效位数
二、近似数运算
1、加I、减运算如果参与运算的数不超过10个运算时以各数中(末)最大的数为准其余的数均比它多保留一位,多余位数应舍去计算结果的(末),应与参与运算的数中(末)最大的那个数相同若计算结果尚需参与下一步运算,则可多保留一位例如
18.3Q+
1.4546Q+
0.876Q一
18.3Q+
1.45Q+
0.88Q=
20.63Q~
20.6Q计算结果为
20.6Q若尚需参与下一步运算,则取
20.
6302、乘、除(或乘方、开方)运算在进行数的乘除运算时,以有效数字位数最少的那个数为准,其余的数的有效数字均比它多保留一位运算结果(积或商)的有效数字位数,应与参与运算的数中有效位数最少的那个数相同若计算结果尚需参与下一步运算,则有效数字可多取一位例如l.lmx3268mx
0.10300m一
1.1mx
0.327mx
0.103m=
0.0370m3~
0.037m3计算结果为
0.037m3若尚需参与下一步运算,则取
0.03700乘方、开方运算类同
三、数值修约
1、数值修约的基本概念对某一拟修约数,根据保留数位的要求,将其余位数的数字进行取舍,按照一定的规则,选取一个其值为修约间隔整数倍的数(称为修约数)来代替拟修约数,这一过程称为数值修约,也称为数的化整或数的凑整为了简化计算,准确表达测量结果,必须对有关数值进行修约数值修约的准确定义是通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程经数值修约后的数值称为(原数值的)修约值修约间隔是修约值的最小数值单位又称为修约区间或化整间隔,它是确定修约保留位数的一种方式修约间隔一般以kxl0n(k=l25;n为正、负整数)的形式表示人们经常将同一k值的修约间隔,简称为“k”间隔修约间隔一经确定,修约数只能是修约间隔的整数倍例如指定修约间隔为
0.1修约数应在
0.1的整数倍的数中选取;若修约间隔为2X10修约数的末位只是62468等数字;若修约间隔为5x10则修约数的末位数字必然不是“0”就是“5”当对某一似修约数进行修约时,需确定修约位数,其表达形式有以下几种
①指明具体的修约间隔;
②将拟修约数修约至某数位的01或
0.2或
0.5个单位;
③指明按“k”间隔将拟修约数修约为几位有效数字,或者修约至某数位,有时力”间隔可不必指明,但“2”间隔或“5”间隔必须指明
四、数值修约规则(内容依据GB/T8170-2008《数值修约规则与极限数值的表示和判定》1确定修约间隔a)指定修约间隔为ICT加为正整数),或指明将数值修约到n位小数;b)指定修约间隔为1或指明将数值修约到“个”数位;c)指定修约间隔为(n为正整数),或指明将数值修约到IO11数位,或指明将数值修约到“十”、“百”、“千”……数位2进舍规则拟舍弃数字的最左一位数字小于5则舍去,保留其余各位数字不变例:将
12.1498修约到个数位,得12;将
12.1498修约到一位小数得
12.1拟舍弃数字的最左一位数字大于5则进一,即保留数字的末位数字加1例:将1268修约到“百”数位,得13X102(特定场合可写为1300)o注本标准示例中,“特定场合”系指修约间隔明确时拟舍弃数字的最左一位数字是5且其后有非0数字时进一,即保留数字的末位数字加1例将
10.5002修约到个数位得11拟舍弃数字的最左一位数字为5且其后无数字或皆为时,若所保留的末位数字为奇数
(13579)则进一,即保留数字的末位数字加1;若所保留的末位数字为偶数
(02468)则舍去例1修约间隔为
0.1(或101)拟修约数值修约值
1.05010X10-1(特定场合可写成为
1.0)
0.354X10」(特定场合可写成为
0.4)例2修约间隔为1000(或103)拟修约数值修约值5002义103(特定场合可写成为2ooo)5004X103(特定场合可写成为4000)
2.5负数修约时,先将它的绝对值按
2.1〜
2.4的规定进行修约,然后在所得值前面加上负号例1将下列数字修约到“十”数位拟修约数值修约值-355-36X10(特定场合可写为一360)-325-32X10(特定场合可写为一320)例2将下列数字修约到三位小数,即修约间隔为IO;拟修约数值修约值-
0.0365—36X10(特定场合可写为—
0.036)3不允许连续修约拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得多次按2规则连续修约例1修约
97.46修约间隔为1正确的做法
97.46-97;不正确的做法
97.46—
97.5—98例2修约
15.4546修约间隔为1正确的做法
15.4546-15;不正确的做法
15.4546^
15.455-
15.46-
15.5-16o在具体实施中,有时测试与计算部门先将获得数值按指定的修约数位多一位或几位报出,而后由其他部门判定为避免产生连续修约的错误,应按下述步骤进行报出数值最右的非零数字为5时,应在数值右上角加“十”或加“一”或不加符号,分别表明已进行过舍、进或未舍、未进例
16.50+表示实际值大于
16.50经修约舍弃为
16.50;
16.50一表示实际值小于
16.50经修约进一为
16.50如对报出值需进行修约,当拟舍弃数字的最左一位数字为5且其后无数字或皆为零时,数值右上角有“十”者进一,有“一”者舍去,其他仍按
2.2的规定进行例1将下列数字修约到个数位(报出值多留一位至一位小数)
40.5单位修约与
0.2单位修约在对数值进行修约时,若有必要,也可采用
0.5单位修约或
0.2单位修约
0.5单位修约(半个单位修约)
0.5单位修约是指按指定修约间隔对拟修约的数值
0.5单位进行的修约
0.5单位修约方法如下将拟修约数值X乘以2按指定修约间隔对2X依2的规定修约,所得数值(2X修约值)再除以2例将下列数字修约到“个”数位的
0.5单位修约拟修约数值X2X2X修约值
60.
25120.
5012060.
38120.
7612160.
28120.56121-
60.75-
121.50-
1220.2单位修约
0.2单位修约是指按指定修约间隔对拟修约的数值
0.2单位进行的修约
0.2单位修约方法如下将拟修约数值X乘以5按指定修约间隔对5X依第2条的规定修约,所得数值(5X修约值)再除以5例将下列数字修约到“百”数位的
0.2单位修约拟修约数值X5X830415084242108324160-930-4650
五、数值修约的简易方法我国的国家标准GB8170-2008《数值修约规则与极限数值的表示和判定》,对“1单位”,“
0.2单位”,-
0.5单位”间隔的修约方法分别作了规定,但使用时比较繁琐,对“
0.2单位”和“
0.5单位”的修约还需计算下面介绍一种运用于所有修约间隔的修约方法,只需直观判断,简便易行
①如果为修约间隔整数倍的一系列数中,只有一个数最接近拟修约数,则该数就是修约数例如将
1.150001按
0.1修约间隔进行修约此时,与拟修约数
1.150001邻近的为修约间隔整数倍的数有
1.1和
1.2(分别为修约间隔
0.1的11倍和12倍)然而只有
1.2最接近拟修约数,因此
1.2就是修约数又如要求将L015修约至十分位的
0.2个单位此时,修约间隔为
0.02与拟修约数
1.0151邻近的为修约间隔整数倍的数有
1.00和
1.02(分别为修约间隔
0.02的50倍和51倍),然而只有
1.02最接近拟修约数,因此
1.02就是修约数同理,若要求将
1.2505按“5”间隔修约十分位止匕时,修约间隔为
0.5o
1.2505只能修约成
1.5而不能修约成
1.0因为只有
1.5最接近拟修约数
1.2505o
②如果为修约间隔整数倍的一系列数中,有连续的两个数同等地接近拟修约数,则两个数中,只有为修约间隔偶数倍的那个数才是修约数例如要求将1150按100修约间隔修约此时,有两个连续的为修约间隔整数倍的整xl倍和
1.2x1倍同等接近1150因为整xl倍是修约间隔100的奇数倍(11倍),只有
1.2x103是修约间隔io的偶数倍(12倍),因而
1.2x103是修约数又如要求将
1.500按
0.2修约间隔修约此时,有两个连续的为修约间隔整数倍的数
1.4和
1.6同等接近拟修约数
1.500因为
1.4是修约间隔
0.2的奇数倍(7倍),所以不是修约数而只有L6是修约间隔
0.2的偶数倍(8倍),因而L6才是修约数同理,
1.025按“5”间隔修约到3位有效数字时,不能修约成
1.05而应修约成
1.00因为,
1.05是修约间隔
0.05的奇数倍(21倍),而
1.00是修约间隔
0.05的偶数倍(20倍)需要指出的是数值修约导致的不确定度呈均匀分布,约为修约的1/2o在进行修约时还应注意不要多次连续修约(例如
12.251-
12.25—
12.2)因为多次连续修约会产生累积不确定度止匕外,在有些特别规定的情况(如考虑安全需要等)下,最好只按一个方向修约修约是否进位
(1)若舍去部分大于保留末位
0.5则末位加1;
(2)若舍去部分小于保留末位
0.5则末位不变;
(3)若舍去部分等于保留末位
0.5则当末位为奇时,末位加1当末位为偶时,末位不变。