2012年9月9日日曜日

最近接偶数への丸め(偶数丸め、JIS丸め)について勘違いしていた

最近接偶数への丸め(偶数丸め、JIS丸め)について勘違いしていた話。
最近接偶数への丸めについての仕様は http://www.jisc.go.jp/app/JPS/JPSO0020.html を開き「Z8401」で検索。

当初、小数点以下を丸めて整数にする場合、
  • 小数第一位が4以下ならば切り捨て
  • 小数第一位が6以上ならば切り上げ
  • 小数第一位が5で一の位が偶数ならば切り捨て
  • 小数第一位が5で一の位が奇数ならば切り上げ
と思っていた。
1.50 ⇒ 2     1.51 ⇒ 2
2.50 ⇒ 2     2.51 ⇒ 2
になると思っていたが、正しくは
1.50 ⇒ 2     1.51 ⇒ 2
2.50 ⇒ 2     2.51 ⇒ 3
である。
最近接偶数への丸め(偶数丸め、JIS丸め)は、与えられた数値を近い方へ丸める。
与えられた数値が切り上げた数値の方が近い場合は切り上げ、切り下げた数値の方が近い場合は切り下げとなる。距離が同じ場合は、偶数の方へ丸める。
2.51 ⇒ 3になるのは切り下げた数値(=2)よりも切り上げた数値(=3)の方が近いためである。