読者です 読者をやめる 読者になる 読者になる

オイラーの贈物

  • 2.4.3 計算の精度
  • 有効数字:与えられた数を小数で表示するとき、位取りの0以外の数字を有効数字(significant figure)という。
    ex. 100→1桁、0.0010→2桁、1.234589は8桁、1.526987は7桁。
  • 計算前の数の有効数字桁数よりも、計算後の数の有効数字の桁数少ない場合桁落ち(cancelling)が生じたという。
  • 大きさの近い二つの数引き算すると桁落ちが生じ、計算結果に対する信頼が著しく失われる。
  • 真値R、計算値rを準備する。この時、誤差eは e=R-r として表される。また相対誤差 ε≡ (R-r)/Rとして定義される。