堅物実男ブログ
2012年8月10日金曜日
浮動小数点!
http://itpro.nikkeibp.co.jp/members/ITPro/ITBASIC/20020624/1/
浮動小数点について、詳しい図が載っていましたのでお知らせしま~す。
1 件のコメント:
imr
2012年8月11日 7:12
「皆さんは、コンピュータと仲良くなる手段として2進数を学んでいるのです。」っていうのが納得(笑)
環境分析の仕事をしているとき、有効数字がいろいろややこしかったことを思い出しました。
返信
削除
返信
返信
コメントを追加
もっと読み込む...
次の投稿
前の投稿
ホーム
登録:
コメントの投稿 (Atom)
「皆さんは、コンピュータと仲良くなる手段として2進数を学んでいるのです。」っていうのが納得(笑)
返信削除環境分析の仕事をしているとき、有効数字がいろいろややこしかったことを思い出しました。