昨日「標準の数値書式指定文字列の固定小数点 ("F) 書式指定子」について質問させていただき、回答をいただいたのですが、その後、腑に落ちない点が出てきました。 double型の有効桁数は15～16桁というのは理解できるのですが、ヘルプでは ...
ILE C Extensionスレッド・セーフ はい説明 QXXDTOP 関数は、value で指定された double 値をパック 10 進数に変換します。この場合、digits は合計桁数で、fraction は小数部の桁数です。結果は、pptr が指す配列に保管されます。例 #include <xxcvt.h> #include <stdio.h> int main(void) {...
Double値の有効桁数は最大 15 桁ですが、内部的には最大 17 桁メイン含まれます。 つまり、一部の浮動小数点演算では、浮動小数点値を変更する精度が不足している可能性があります。 具体的な例を次に示します。 非常に大きな浮動小数点値を定義し、1 つの 4 分の 1 のDouble.Epsilon積を追加...