実行結果 c:\mind8\pmind\sample>lnum-sub03 2つの小数の割り算をします。(空入力で終了) 小数1=100 小数2=3 切り捨て商=+33.3333四捨五入商=+33.3333切り上げ商=+33.3334 小数1=200 小数2=3 切り捨て商=+66.6666四捨五入商=+66.6667切り上げ商=+66.6667 小数1=123.456 小数2=111.111 切り捨...
Python の本体部分はいたってシンプルで、必要最低限の機能しかありませんが、複雑な科学技術計算や統計処理を簡単に実行できるライブラリやツールが豊富に揃えられていて、しかもそれを無料でダウンロードし、目的に応じて機能を次々と拡張していくことができます。言語の習得に時間をかけずにす...
Fortran では、デフォルトでは、10 進数文字列と 2 進浮動小数点値の間の変換は C と同じ規則に従って正しく丸められます。I/O 変換の場合、もっとも近い値への丸めモードの「偶数に結び付ける丸め」の規則は、プログラムで ROUNDING= 指定子を使用するか、または –iorounding フラグでコンパ...
改訂された標準で推奨されている新機能が Oracle Developer Studio C、C++、および Fortran コンパイラで使用可能になったら、Oracle Developer Studio 用のこの数値計算ガイドの将来のバージョンでそれらの機能について説明します。 Oracle Developer Studio 12.5 にすでに存在する重要な変更のいくつか...
S Kajiyama,C Yokokawa,Y. Watabe,... - 《Fuel》 被引量: 2发表: 1961年 Molecular gas dynamics analysis on influence of non-condensable gas molecules on evaporation of vapor molecules 関数の時空間発展を支配する微積分方程式である.数値解析を行う際には,計算負荷を減らすために, 衝突項を簡略化...
プログラムは、いつでも ieee_retrospective を明示的に呼び出すことができます。–f77 互換モードの f95 でコンパイルされた Fortran プログラムは、自動的に ieee_retrospective を呼び出してから終了します。デフォルトモードの f95 でコンパイルされた C/C++ プログラムおよび Fortran プロ...
C/C++ の long double は、SPARC および x86 の Studio では、それぞれ 113 の有効ビットと 64 の有効ビットで実装されます。このため、明示的に long double 変数を含むプログラムは、SPARC と x86 では動作が異なることになります。 5.5.5 高い暗黙的精度 一部の状況では、式は、ソースコ...
付録C x86 の動作と実装 付録D 『』の付録 D.1 IEEE 754 実装間の相違 D.1.1 現在の IEEE 754 の実装 D.1.2 拡張ベースシステムでの計算の落とし穴 D.1.2.1 定理 7 D.1.2.2 証明 D.1.3 拡張精度におけるプログラミング言語のサポート D.1.4 結論 付録E 標準規格への準拠 付録F 参...
–f77 互換モードでは、コンパイラがトラップを有効にしないため、浮動小数点例外が発生してもプログラムは実行を継続し、終了時に ieee_retrospective 出力でこれらの例外を報告します。 この関数を呼び出すための構文は次のとおりです C、C++ - ieee_retrospective(fp); Fortran - call ieee_...
128 ビットの 2 進形式は Studio Fortran REAL*16 および SPARC の Studio C および C++ long double に対応します。 754-2008 では、正しい丸めには 2 進および 10 進形式とキャラクタシーケンスとの変換が必要ですが、754-1985 では、指数が非常に大きい、あるいは非常に小さい数値に対す...