2012年8月10日金曜日

浮動小数点!

http://itpro.nikkeibp.co.jp/members/ITPro/ITBASIC/20020624/1/

浮動小数点について、詳しい図が載っていましたのでお知らせしま~す。

1 件のコメント:

  1. 「皆さんは、コンピュータと仲良くなる手段として2進数を学んでいるのです。」っていうのが納得(笑)

    環境分析の仕事をしているとき、有効数字がいろいろややこしかったことを思い出しました。

    返信削除