オイラーの贈物
- 2.4.3 計算の精度
- 有効数字:与えられた数を小数で表示するとき、位取りの0以外の数字を有効数字(significant figure)という。
ex. 100→1桁、0.0010→2桁、1.234589は8桁、1.526987は7桁。 - 計算前の数の有効数字桁数よりも、計算後の数の有効数字の桁数が少ない場合、桁落ち(cancelling)が生じたという。
- 大きさの近い二つの数を引き算すると桁落ちが生じ、計算結果に対する信頼が著しく失われる。
- 真値R、計算値rを準備する。この時、誤差eは e=R-r として表される。また相対誤差 ε≡ (R-r)/Rとして定義される。