2015-07-26から1日間の記事一覧

プログラムのポイント1.8

プログラムは一度にすべてを作らないで動作を確認しながら(コンパイルと実行を繰り返しながら)少しずつ作成していく。 プログラムの動作を確認したり、エラーの原因を探す時には、以下の操作を行ってみよう。 stop文をプログラムの途中に入れて、その位置…

オイラーの贈物

2.4.3 計算の精度 有効数字:与えられた数を小数で表示するとき、位取りの0以外の数字を有効数字(significant figure)という。ex. 100→1桁、0.0010→2桁、1.234589は8桁、1.526987は7桁。 計算前の数の有効数字桁数よりも、計算後の数の有効数字の桁数…