プチコン総合スレッド

839：名無しさん：2014/06/08(日) 10:34:20 ID:JUnbbvLQ: 同じ浮動小数点でも64bit（double）ならば誤差はプチコンより少なくなるけど
32bit浮動小数点ならばプチコンより誤差が少なくなるケースもあれば
多くなるケースもある。
プチコンの場合は整数演算を12bitシフトしただけなので誤差の出方が
非常に分かりやすいけど浮動小数点ではそれを予見するのは難しい。
だから32bit浮動小数点を導入するメリットは524288を超える非常に大きな数も
扱えるようになるということくらいかなと思う。

新着レスの表示

※書き込む際の注意事項はこちら

※画像アップローダーはこちら

（画像を表示できるのは「画像リンクのサムネイル表示」がオンの掲示板に限ります）

掲示板管理者へ連絡無料レンタル掲示板