こていしょうてんすう
固定小数点数
コンピュータにおいて、小数点位置を特定の場所に固定して数値を扱う表現形式です。整数演算と同様に処理できるため計算が高速ですが、扱える数値範囲が狭いという制約があります。
詳しい説明
固定小数点数とは、コンピュータにおいて数値を表現する際に、小数点(基数点)の位置をあらかじめ決められた特定の場所に固定して扱う数値表現形式のことです。通常は小数点以下の桁数を固定し、整数の部分と小数部分をビット列として並べて数値を表します。
この形式では、整数表現の仕組みをそのまま流用できるため、ハードウェアでの計算処理が非常に高速かつ単純であるというメリットがあります。一方で、表現できる数値の範囲が狭く、非常に大きな数値や非常に小さな数値を扱う際には、桁あふれや精度不足が起こりやすいという弱点があります。そのため、主に制御システムや、計算の範囲が限定されている場面で利用されます。
試験では、浮動小数点数との比較が重要です。浮動小数点数は小数点位置を移動できるため、広範囲の数値を表現できますが、処理が複雑で誤差が生じることがあります。固定小数点数は計算が速い反面、扱える範囲に制限があるというトレードオフの関係を理解し、用途に応じてどちらが適切かを判断する問題が出題されます。
試験で問われること
ITパスポート試験
- コンピュータが数値を表現する仕組み(固定小数点数と浮動小数点数)の違いを理解する。
- 固定小数点数が処理速度において有利であることを覚える。
- 小数点位置が固定されているという定義を記憶する。
基本情報技術者試験
- 固定小数点数のビット表現と、演算時の桁あふれ(オーバーフロー)の概念を理解する。
- 浮動小数点数との表現範囲や精度の違いを比較する。
- 2進数での固定小数点演算の仕組みをトレースできるようにする。