演算誤差

本記事では基本情報技術者にも出題されるオーバーフローとアンダフローについて説明しています。演算誤差は計算過程で生じる誤差であり、オーバーフローは数値がデータ型の最大値を上回り、アンダーフローは最小値を下回ると正確な扱いができなくなる誤差です。

本記事では基本情報技術者にも出題される丸め誤差と打切り誤差について説明しています。演算誤差は計算過程で生じる誤差で、丸め誤差は有限のビット数で実数を表現し四捨五入などにより生じ、打切り誤差は有限桁の実数を無限に変換する際の計算途中での誤差です。

本記事では基本情報技術者にも出題される桁落ちと情報落ちについて説明しています。桁落ちと情報落ちは演算誤差の一種で、桁落ちはほぼ等しい2つの値の差を求める際に生じ、情報落ちは大きな数値と小さな数値の演算で小さな数の影響が無視される演算誤差です。