レス数が1スレッドの最大レス数(10000件)を超えています。残念ながら投稿することができません。
管理人の独り言３
-
倍精度浮動小数点数 - Wikipedia
http://ja.wikipedia.org/wiki/%E5%80%8D%E7%B2%BE%E5%BA%A6%E6%B5%AE%E5%8B%95%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0
-----
仮数部が53ビットなので、1.110223e-16ぐらいまでは信頼できる。要するに15桁（実際は16桁近い）は信頼できると。
地球上の座標は多くの場合±180度の範囲で表現することが多いので、そのことを考慮すると、最低でも1.8e-13度の差が表現できる。
赤道の長さは40,075kmだから、20nmぐらいまで信頼できるな。
単精度の場合はもっと悪くて、2mぐらいまでしか信頼できない。
掲示板管理者へ連絡
無料レンタル掲示板
