レス数が1スレッドの最大レス数(1000件)を超えています。残念ながら投稿することができません。
おちゃめくらぶ掲示板
-
ありがとうございました
＞正数、負数も演算範囲が1ずつ小さくなっている
あー、なるほど。そういう考え方をすれば、一応は納得できる・・・のかな。。。？
＞＞小数を含む結果を返す関数に、
＞この方法を使えば
＞IF INT$=="2147483647"THEN INT=524287.9999:RETURN
いえいえ、プチコンのマニュアルで言う数学指数対数関数や数学三角関数の項目に
載っているような関数を利用することを言ったんです。オーバーフロー扱い
かどうかを判定する内部処理をすり抜けられるかな、って。
いずれにしても、&H7FFFFFFFは無理ってことですね。
必ず&H7FFFFや&HFFFにならないようにマスク(?)するXOR値なんてのは無いだろうし、
その値の時だけ例外として記録場所を変える処理とか、それはそれで変数領域の
無駄になりそうだし、元々31bit分だけを記録するように工夫するのが良いのかな。
・・・いや40億分の1のためだけに対してどうなんだろう。やっぱり例外扱いの方が
いいのかな。でも並びがわりかし規則的という点では、出現しがちな情報とも
言える・・・か？ うーん、悩ましいところだなあ・・・。
なんとか頑張って考えてみます。ありがとうございました。
特定の数値の時だけ、って、なんだか2000年問題を思い出しました。(笑)
掲示板管理者へ連絡
無料レンタル掲示板
