この際、結果の整数部分が切り捨てられることを防ぐために、scale が減らされます。 乗算や除算などの演算では、decimal の precision を維持するために scale が減らされることはありません。これは、オーバーフロー エラーが発生する可能性がある場合でも同じです。加算と減算では、decimal の...
小数点以下のある値を算出する際の有効桁数についても聞きたいことがありますので、別にスレッドを立てて質問いたします。 ありがとうございました。 2010年4月22日木曜日 14:23 今回質問したいのは、小数点以下があるフィールド同士を掛けて、その結果の小数点以下をROUNDで切り捨てた値...
この際、結果の整数部分が切り捨てられることを防ぐために、scale が減らされます。 乗算や除算などの演算では、decimal の precision を維持するために scale が減らされることはありません。これは、オーバーフロー エラーが発生する可能性がある場合でも同じです。