アカウント名:
パスワード:
やはり、普通の多倍長実数計算ではなく有理数演算でやってましたな。
2進 15バイト以上の有効数字と計算ロジックが異なることから、手元の数値処理の検算に結構重宝しました。
https://blogs.msdn.microsoft.com/oldnewthing/20040525-00/?p=39193 [microsoft.com]
> (前略)32 digits of precision for advanced operations (square root, transcendental operators).これの32桁ってどっから来てんのかと思ったら> static constexpr int DEFAULT_MAX_DIGITS = 32;> static constexpr int DEFAULT_PRECISION = 32;ここで決めてんのねてか、コアはratpakって95年のCで書かれた奴をまだ使ってるんだまぁ、数値解析は枯れてるのは利点だから良いんだけど
FreeBSDをインストールするときこれまでどおり、offset 64にしてからインストール開始してもブートできずGPTにしたところOpenBSDなどから読み取れないという状況にあります。
zfsが使えるのであればOpenBSDで全然構わないのですが、zfsが使えないためしかたがなくufs(v1)なFreeBSDをインストールしたUSBメモリーを作り、iscsi target+zfsホストをFreeBSDで構築してOpenBSDへの切り出しを考えています。
FreeBSDは操作性が悪いのでOpenBSDでFreeBSDの入ったUSBをマウントしてからShellを走らせて主な設定をと考えたのですが、上記の通り、読み取れ
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
弘法筆を選ばず、アレゲはキーボードを選ぶ -- アレゲ研究家
有効数字が 10進40桁の計算モジュール (スコア:1)
やはり、普通の多倍長実数計算ではなく有理数演算でやってましたな。
2進 15バイト以上の有効数字と計算ロジックが異なることから、手元の数値処理の検算に結構重宝しました。
Re:有効数字が 10進40桁の計算モジュール (スコア:1)
https://blogs.msdn.microsoft.com/oldnewthing/20040525-00/?p=39193 [microsoft.com]
> (前略)32 digits of precision for advanced operations (square root, transcendental operators).
これの32桁ってどっから来てんのかと思ったら
> static constexpr int DEFAULT_MAX_DIGITS = 32;
> static constexpr int DEFAULT_PRECISION = 32;
ここで決めてんのね
てか、コアはratpakって95年のCで書かれた奴をまだ使ってるんだ
まぁ、数値解析は枯れてるのは利点だから良いんだけど
Re: (スコア:0)
FreeBSDをインストールするとき
これまでどおり、offset 64にしてからインストール開始してもブートできず
GPTにしたところOpenBSDなどから読み取れないという状況にあります。
zfsが使えるのであればOpenBSDで全然構わないのですが、zfsが使えないため
しかたがなくufs(v1)なFreeBSDをインストールしたUSBメモリーを作り、
iscsi target+zfsホストをFreeBSDで構築してOpenBSDへの切り出しを
考えています。
FreeBSDは操作性が悪いのでOpenBSDでFreeBSDの入ったUSBをマウントしてから
Shellを走らせて主な設定をと考えたのですが、上記の通り、読み取れ