アカウント名:
パスワード:
やはり、普通の多倍長実数計算ではなく有理数演算でやってましたな。
2進 15バイト以上の有効数字と計算ロジックが異なることから、手元の数値処理の検算に結構重宝しました。
https://blogs.msdn.microsoft.com/oldnewthing/20040525-00/?p=39193 [microsoft.com]
> (前略)32 digits of precision for advanced operations (square root, transcendental operators).これの32桁ってどっから来てんのかと思ったら> static constexpr int DEFAULT_MAX_DIGITS = 32;> static constexpr int DEFAULT_PRECISION = 32;ここで決めてんのねてか、コアはratpakって95年のCで書かれた奴をまだ使ってるんだまぁ、数値解析は枯れてるのは利点だから良いんだけど
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
ハッカーとクラッカーの違い。大してないと思います -- あるアレゲ
有効数字が 10進40桁の計算モジュール (スコア:1)
やはり、普通の多倍長実数計算ではなく有理数演算でやってましたな。
2進 15バイト以上の有効数字と計算ロジックが異なることから、手元の数値処理の検算に結構重宝しました。
Re:有効数字が 10進40桁の計算モジュール (スコア:1)
https://blogs.msdn.microsoft.com/oldnewthing/20040525-00/?p=39193 [microsoft.com]
> (前略)32 digits of precision for advanced operations (square root, transcendental operators).
これの32桁ってどっから来てんのかと思ったら
> static constexpr int DEFAULT_MAX_DIGITS = 32;
> static constexpr int DEFAULT_PRECISION = 32;
ここで決めてんのね
てか、コアはratpakって95年のCで書かれた奴をまだ使ってるんだ
まぁ、数値解析は枯れてるのは利点だから良いんだけど