ソフトウェア関連/浮動小数点の有効桁数

上へ


浮動小数点のTIPS bookmark

浮動小数点の桁数 bookmark

いずれもWindows 32ビット環境
コンパイラのオプションとかで、変わったりするので注意
もっと細かい精度や大きな値を誤差無く扱いたい場合は、
BCD(2進化10進法)で計算をさせる。

  • float(32bit) 
    10進数有効桁数 =  6～7桁(仮数部24bit)
  • double(64bit) 
    10進数有効桁数 = 15～16桁(仮数部53bit)
  • long double(IEEE/80bit) 
    10進数有効桁数 = 19桁(仮数部64bit)

πにみる桁数 bookmark

  • 通常のπ
    • Windowsの電卓にあるπ 
      表示
3.1415926535897932384626433832795
有効桁数
 7 = 3.141592
15 = 3.14159265358979
元の値 = 3.1415926535897932384626433832795...

  • おまけ
    • 近似値のπ 
      355/113 ≒ π
 7桁 = 3.141592
15桁 = 3.14159292035398
元の値 = 3.1415929203539823008849557522124...
    • カオス 
      y=4*x*(1-x)