初投稿になります。指摘等あれば、よろしくお願いします。#はじめにPythonを勉強する中で、丸め処理を行う関数が複数あり混乱したので、自分への備忘録としてまとめておきます。#実証環境・Py…
BigDecimalクラスを使うことで四捨五入や切り捨・切り上げはできるけど、これによって誤差(丸め誤差)が生じてしまうので、その解決方法も一緒に紹介する。 BigDecimalクラスとは 小数点以下の値に誤差が出ないよう正確に計算するために使う。小数点以下の四捨五入や切り捨て・切り上げといった...
* @return {number} 切り上げした値 */functionorgCeil(value,base){returnMath.ceil(value*base)/base;}/** * 任意の桁で切り捨てする関数 * @param {number} value 切り捨てする数値 * @param {number} base どの桁で切り捨てするか(10→10の位、0.1→小数第1位) * @return {number} 切り...
たとえば税率8%で税込価格が110円の場合、切り上げ方式で端数処理した消費税なら本体価格は101円ですが、切り捨て方式で端数処理した消費税なら本体価格は102円です。 以下、端数処理方式別の算出式です。 ※rate には、0.05m, 0.08m, 0.10m などの消費税率(正の値)が入ります。 四捨五入方式...
四捨五入・切り捨て・切り上げを行う場合は以下の関数を使います。 round() → 四捨五入 floor() → 切り捨て ceil() → 切り上げ 使用例 ViewController.swift letnum=7.5letnumRound=round(num)// 8(四捨五入)letnumFloor=floor(num)// 7切り捨て)letnumCeil=ceil(num)// 8(切り上げ...