真空壓力表、彈簧管壓力表檢定結(jié)果述說如下：
根據(jù)JJG49-1999《彈簧管式精密壓力表及真空表》檢定規(guī)程的要求，對其檢定結(jié)果的讀取值應(yīng)讀至最小分度值的1/10格，同時將正、反行程讀數(shù)的算術(shù)平均值修約至最小分度值的1/10格。那么，如何進行合理的數(shù)據(jù)修約呢?
誤差理論中關(guān)于數(shù)字舍入有如下規(guī)則:
(1)若舍去部分的數(shù)值大于保留部分末位的半個單位(即舍去的數(shù)字段中，首位數(shù)字大于5)，則末位加1。
(2)若舍去部分的數(shù)值小于保留部分末位的半個單位(即舍去的數(shù)字段中，首位數(shù)字小于5)，則末位不變。
(3)若舍去部分的數(shù)值等于保留部分末位的半個單位(即舍去的數(shù)字段中，首位數(shù)字等于5且末位不是0時)，則末位湊成偶數(shù)，即當(dāng)末位為偶數(shù)時末位不變；當(dāng)末位為奇數(shù)時末位加1。
我們知道，由于數(shù)字舍入引起的誤差稱為舍入誤差。按上述規(guī)則進行數(shù)字舍入，其舍入誤差皆不超過保留數(shù)字最末位的半個單位。從該規(guī)則第(3)條可以看出，被舍去的數(shù)字不是見5就入，這樣就使舍入誤差成為隨機誤差，聯(lián)系概率論有關(guān)知識，這種舍入方法，保證了“舍”和“入”的概率相等(均為50%)，從而使舍入誤差的平均值趨于零。
下面就及真空表、彈簧管式壓力表檢定結(jié)果的處理，結(jié)合上述數(shù)據(jù)修約規(guī)則作以下討論:
(1)上述規(guī)則所說的“半個單位”意指數(shù)字“5”，而針對彈簧管式壓力表及真空表，因其1/10格有0.0005、0.0002、0.0001、0.005……，其有效數(shù)字或為“5”，或為“2”，或為“1”，聯(lián)系上述規(guī)則，這里的“半個單位”就不是規(guī)則中所述的“5”了。例如:檢定0.4級、上限為1.0MPa的彈簧管式精密壓力表，其1/10格為0.0005MPa。在標(biāo)準(zhǔn)值為0.2MPa這一點，若正行程讀數(shù)為0.1990MPa，反行程讀數(shù)為0.1995MPa，其平均值為0.19925MPa，按要求應(yīng)保留至小數(shù)點后第4位，根據(jù)上述規(guī)則進行數(shù)字舍入，則修約后的數(shù)值為0.1992MPa，顯然并未修約到1/10格。
可以對平均值0.19925進行一下分析:0.19925-0.1990+0.00025，既然要求將數(shù)據(jù)修約到1/10格，則這里待作取舍的數(shù)應(yīng)為0.00025而不是0.00005，所謂的“半個單位”，在這里應(yīng)理解為1/10格0.0005MPa的一半，即0.00025MPa。也就是說，待作取舍的數(shù)應(yīng)與0.00025相比較。分析1/10格為其他值的情況，也可得出相仿的結(jié)論。如1/10格為0.0002MPa時，與待作取舍的數(shù)相比較的“半個單位”應(yīng)為0.0001MPa；1/10格為0.0001MPa時，“半個單位”為0.00005MPa。
總之，針對彈簧管式壓力表及真空表，結(jié)合誤差理論中有關(guān)數(shù)據(jù)修約的規(guī)定，對其檢定結(jié)果進行數(shù)據(jù)修約時，“半個單位”應(yīng)理解為“1/10格的一半”。
(2)上述規(guī)則從根本上說是為了保證“舍”、“入”的概率相等，但直接按上述規(guī)則對檢定結(jié)果進行數(shù)據(jù)修約，在有些情況下并不能保證“舍”、“入”的概率相等。
如表1所示，檢定0.25級、上限為0.4MPa的彈簧管式精密壓力表，其1/10格為0.0002MPa，在這里“半個單位”為“0.0001MPa”，按上述規(guī)則第(3)條的規(guī)定，對于待舍入數(shù)字為“半個單位”的情況，不管正、反行程讀數(shù)如何變化，都將舍去半個單位量值0.0001MPa，“入”的概率為零。
如0.04MPa這一點，正、反行程讀數(shù)的平均值為(0.0402+0.0404)/2=0.0403=0.0402+0.0001，末位為偶數(shù)“2”，0.0001被舍去。
這顯然是不合理的(因為“舍”、“入”概率不相等)。那么，采取什么樣的舍入方法才能使待舍入部分的“舍”、“入”概率均等呢?設(shè)被檢表1/10格小數(shù)點后的位數(shù)為n，分析表明:為保證“舍”、“入”概率相等，對于待取舍部分為被檢表1/10格一半的情況作如下分析:
(1)當(dāng)被檢表1/10格的有效數(shù)字為“2”(如1/10格為0.0002)時，應(yīng)由1/10格相應(yīng)的第n-1位數(shù)字的奇偶性決定取舍。
(2)當(dāng)被檢表1/10格的有效數(shù)字為“5”(如1/10格為0.005)或“1”(如1/10格為0.0001)時，由第n位或第n-1位數(shù)字的奇偶性決定取舍均可(為統(tǒng)一起見，建議由第n-1位數(shù)字的奇偶性決定取舍)。
應(yīng)用這一結(jié)論對表1的檢定結(jié)果進行數(shù)據(jù)修約，所得結(jié)果如表2所示。
