開発現場のWindows／MS製品の小技・裏技
|
 |
|
|
情報処理技術者試験講座TOPPAGE > 情報処理技術者試験講座 > 午前共通
|
| 丸め誤差 | 指定された有効桁数で演算結果を表すために、切り捨て、切り上げ、四捨五入などで下位のけたを削除することによって発生する誤差 |
|---|---|
| 情報落ち | 絶対数の非常に大きな数値と小さな数値の足し算や引き算を行った時、小さい数値が計算結果に反映されないときに発生する誤差（例：電卓） |
| けた落ち | 絶対値のほぼ等しい二つの数値の絶対値の差を求めたとき、有効桁数が減るために発生する誤差。 |
| 打切り誤差 | 浮動小数点表示された数値の計算処理を有限項で打ち切ったために発生する誤差。 |
午前共通 頻出用語