数値計算における理論的細部よりも、理論の真意・意義を正しく理解するための具体的・実際的な問題に重点をおき、最近のトピックスまで記述。
... 数値計算と誤差 1 数値計算における誤差コンピュータを用いた数値計算では、基本的に、有限桁数の 2 進浮動小数点による計算を行います。このような計算においては、数の表現や計算に伴う誤差がつきまといます。表 1.3 に、数値計算における誤差の例を ...
... 計算結果を、result[]配列にコピーします。 1.2 数値計算と誤差 1.2.1 数値計算における誤差コンピュータを用いた数値計算では、数の表現や計算に伴う誤差が生じるのは必須です。表 1.5 に、数値計算における誤差の例を示します。これらの誤差は ...
... 数値計算と誤差 1.2.1 数値計算における誤差コンピュータを用いた数値計算では、基本的に、有限桁数の2進浮動小数点数による計算を行います。このような計算においては、数の表現や計算に伴う誤差がつきまといます。表1.2に、数値計算における誤差の例を ...
... 数値計算によって得られる結果の精度が高くなるかというと,必ずしもそうではない.後述するように,数値計算における実数をいかに扱うかによって結果は異なるので,注意しなければならない. 1.6.2 数式とプログラム数値計算のためのプログラムにおいては ...
本書では、高い精度の数値解を得るために必要なアルゴリズムと誤差を中心として数値解析の実際などを体系的に著した。すなわち、コンピュータ内での数値表現方法と誤差を知 ...
... 計算における誤差の問題。 1桁落ち:絶対値のほぼ等しい値を減算したとき、信頼できる有効桁数が減少して、誤差が大きくなっ ... (数値をきりのいい値に略する「丸め」)操作によって、計算結果に生じる誤差問題のように、0.01は2進数では循環小数となり無限 ...
... 計算における誤差の問題。 1桁落ち:絶対値のほぼ等しい値を減算したとき、信頼できる有効桁数が減少して、誤差が大きくなっ ... (数値をきりのいい値に略する「丸め」)操作によって、計算結果に生じる誤差問題のように、0.01は2進数では循環小数となり無限 ...