有効数字

数学ではひとつの数値は数直線上の 1 点を示す。
しかし、現実の世界の測定値には必ず不確かさ 1)ここでの「不確かさ」は、測定者の熟練度等によるものではない。最小目盛り 1 ml のメスピペットで、例えば測定値が 10.4 ml だったとすると(測定は目盛りの 1/10 まで行う)、真の値は 10.35 ~ 10.45 の範囲のどこかにあるが、このうちのどこにあるかは、このメスピペットを使って測定する限り誰にもわからない。が含まれていて、示された測定値には一定の幅がある。

このような「不確かさ」を表すには、

8.272 ± 0.006

のような表記法 2)グリーンブック p.181 参照があるが、より簡便な方法として「有効数字」を使った方法があり、化学の世界では通常この方法が使われている。

8.27 有効数字 3 桁
8.270 有効数字 4 桁
0.00827 有効数字 3 桁
8.3 × 103 有効数字 2 桁
82700 おそらく有効数字 3 桁 だが、
4 桁とも 5 桁とも取れる (他の数値との比較などから判断)
有効数字をはっきり示したい場合は 8.27 × 104 (3 桁の場合)のような表記法を用いる

例えば、8.27 の有効数字は 3 桁であり、真の値は 8.265 ~ 8.275 のどこかにある。
つまり 8.27 は 0.01 の幅を持っている。

 8.27 \left\{  \begin{array}{@{\,}l}  8.275 \\  8.265  \end{array}  \right. \begin{picture}(0, 0) \put(0,0){\vector(0, 1){10}} \put(0,8){\vector(0, -1){10}} \end{picture} \hspace{3mm}0.01 

化学の世界では、8.27 と 8.270 は、違う意味を持った数値として取り扱わなくてはならない。

以下に、有効数字まで含めた数値の計算法の概略を示す。

たしざん、ひきざん

最も大きな桁にそろえる

例)

  • 9.9 + 0.001 = 9.9
  • 86 + 37.27 + 5.416 = 129
 \begin{tabular}{ccc|c|ccccc} \cline{4-4}  & &8&6& & & & \\  & &3&7&.&2&7& \\  +) & & &5&.&4&1&6\\ \hline  &1&2&8&.&7& & \\ \cline{4-4} \end{tabular} 

3 つの数字の有効な桁のうち、最も大きいのは 86 の 1 の位。
よって答えの有効桁は 1 の位までとなる。
計算途中は 1 桁多めに(小数第 1 位まで)とり、86 + 37.3 + 5.4 = 128.7。
最後に小数第 1 位を丸めて、答えは 129。

かけざん、わりざん

最も少ない有効数字の桁数にそろえる

例)

  • 3.50 ÷ 0.300 = 11.7
    11.6666… を 3 桁になるように丸める
  • 38.2 × 3.0 = 110 または 1.1 × 102
    114.6 を (有効数字が最も少ない 3.0 の 2 桁に合わせて) 2 桁になるように丸める 3)有効数字 2 桁のときに 110 と書いても誤りではない。ただし、110 と書くと、有効数字は 2 桁とも 3 桁とも読み取れてしまうので、有効数字が 2 桁と明確に示すには、 1.1 × 102 という表記(科学的記数法)を用いる。

38.2 × 3.0 は (38.15~38.25) × (2.95~3.05) の幅を持つので、計算結果は (112.5425~116.6625) と 4.12 の幅を持つ。計算後の有効数字を 3 桁とすると (115)、その幅は 1 であり本来の誤差の幅より小さくなってしまう。計算結果は、最も有効桁数の少ない 3.0 (2 桁) に合わせ、有効数字を 2 桁とする。

Q. 二択です。ピペットで 0.10 ml を 10 回加えたときの体積はいくつでしょうか ?

a) 0.10 × 10。0.10 の有効数字は 2 桁だから、1.0 ml

b)  0.10 + 0.10 + 0.10 + … と 10 回加えるのだから、1.00 ml

注意点

  • 計算途中は 1 桁多めにとる(1 桁では不十分な場合もありますが)
  • 定数を使うときは 1 桁多めにとる
    例えば、測定値の有効数字が 3 桁のときは、気体定数 R は 8.314 (4 桁) を使う。
  • 理想的な値(測定値でないもの)は上記の扱いからはずす
    例えば、「体積を1 m3 とすると」や「2 倍に希釈すると」等の数値(1 や 2)は、有効数字 1 桁を表しているわけではない。
  • ひとつの数値を丸めるとき、2 段階で四捨五入してはならない
    例えば、7.347 を小数第 1 位に丸めるとき、
    7.347 → 7.35 → 7.4 とするのは誤り。
    正しくは 7.3 となる。

数値の丸め方(JIS, ISO方式)について

数値の端数を処理して、桁数を少なくすることを「丸める」という。
通常は四捨五入すればよいが、JIS、ISOでは平均値が大きくなってしまうことを防ぐため 4)例えば 1.0, 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0 の 11 個の数値を平均すると、1.5 になるわけだが、各数値を整数になるよう四捨五入してから平均をとると ≈ 1.545 と少し大きくなってしまう。、下記の方法が規定されている。

JISでは通常の四捨五入による処理も認められおり、下記の方法はあまり使う機会はないかもしれないが、一応説明しておく。
以下、小数第 1 位に丸めるときを例として説明する。

  • 小数第 2 位の数字が 5 以外のときは通常の四捨五入。
  • 小数第 2 位の数字が 5 の場合、小数第 3 位以下の数値が 0 でなければ、切り上げ。
  • 小数第 2 位の数字が 5 で、小数第 3 位以下の数値が 0 または不明のとき、
    • 小数第1位が偶数のとき、切り捨て
    • 小数第1位が奇数のとき、切り上げ
      (小数第1位は、偶数になる)
 {\unitlength=1cm \begin{picture}(15,4) \put(0,1){\line(1,0){15}} \put(1,1){\line(0,1){0.3}} \multiput(1,1)(2,0){7}{\line(0,1){0.3}} \multiput(2,1)(2,0){7}{\line(0,1){0.2}} \multiput(0.2,1)(0.2,0){74}{\line(0,1){0.1}} \put(1,0.7){\makebox(0,0){7.0}} \put(3,0.7){\makebox(0,0){7.1}} \put(5,0.7){\makebox(0,0){7.2}} \put(7,0.7){\makebox(0,0){7.3}} \put(9,0.7){\makebox(0,0){7.4}} \put(11,0.7){\makebox(0,0){7.5}} \put(13,0.7){\makebox(0,0){7.6}} \multiput(0,2)(4,0.4){4}{\circle*{0.15}} \multiput(2,2)(4,0.4){4}{\circle*{0.15}} \multiput(2,2.2)(4,0.4){4}{\circle{0.15}} \multiput(4,2.2)(4,0.4){3}{\circle{0.15}} \multiput(0,2)(2,0.2){8}{\line(1,0){2}} \put( 1,2.4){\makebox(0,0){7.0}} \put( 3,2.6){\makebox(0,0){7.1}} \put( 5,2.8){\makebox(0,0){7.2}} \put( 7,3.0){\makebox(0,0){7.3}} \put( 9,3.2){\makebox(0,0){7.4}} \put(11,3.4){\makebox(0,0){7.5}} \put(13,3.6){\makebox(0,0){7.6}} \end{picture}} 
Q. の答え

正解は a) 1.0 ml

0.10 には 0.01 の誤差があり、加えるたびに誤差も足されるので、最終結果には 0.1 の誤差がある。
よって最終結果の有効数字は 2 桁。

脚注   [ + ]

1. ここでの「不確かさ」は、測定者の熟練度等によるものではない。最小目盛り 1 ml のメスピペットで、例えば測定値が 10.4 ml だったとすると(測定は目盛りの 1/10 まで行う)、真の値は 10.35 ~ 10.45 の範囲のどこかにあるが、このうちのどこにあるかは、このメスピペットを使って測定する限り誰にもわからない。
2. グリーンブック p.181 参照
3. 有効数字 2 桁のときに 110 と書いても誤りではない。ただし、110 と書くと、有効数字は 2 桁とも 3 桁とも読み取れてしまうので、有効数字が 2 桁と明確に示すには、 1.1 × 102 という表記(科学的記数法)を用いる。
4. 例えば 1.0, 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0 の 11 個の数値を平均すると、1.5 になるわけだが、各数値を整数になるよう四捨五入してから平均をとると ≈ 1.545 と少し大きくなってしまう。