Lazy Diary @ Hatena Blog

PowerShell / Java / miscellaneous things about software development, Tips & Gochas. CC BY-SA 4.0/Apache License 2.0

Entries from 2006-04-30 to 1 day

浮動小数点数の表現方法 (3)

で、ここまで書いておいて何なんですが、 【週刊】 基本情報技術者 浮動小数点攻略(1) を見るとこんなことが書いてある。 試験で浮動小数点数の問題が出てくる時は、大抵その試験独自の仕様を用いた試験用の浮動小数点形式を解かされます。 ……ということだ…

浮動小数点数の表現方法 (2) (IBM エクセス 64 方式の場合)

さて、スタンダードコースの方が先生から聞いたという浮動小数点数についての説明を聞くと、 IEEE754 方式とはどうも噛み合いません。 特に「指数部の値が 1 増えると小数点の位置が 2 進数で 4 桁右に動く」とかいうあたりが謎です。もっともこの仕様は、仮…