ここで、お手許の電卓がJIS丸めを採用しているかどうかのチェックをしてみましょう。以下は有効桁数10桁の電卓の場合を示しますが、それ以外の桁数の場合は下記※印に従って下さい。(有効桁数は、例えば10÷3の答の表示桁数を数えればわかります)
JIS丸めによる答 | ||
【計算1】 | 2 [+] 5E-10 [=] | 2.00…00 |
【計算2】 | 2 [+] 5.1E-10 [=] | 2.00…01 |
【計算3】 | 5.0…02 [×] 5.0…03 [=] | 25.0…03 |
【計算4】 | 5.0…01 [×] 5 [=] | 25.0…00 |
E-10 : | 電卓有効桁数分のゼロを並べるため、12桁の電卓ではE-12とする |
0…0 : | (有効桁数-2)個のゼロを並べるため、12桁の電卓では0を10個 |
【計算1】 | ![]() |
【計算2】 | ![]() |
【計算3】 | ![]() |
【計算4】 | ![]() |
電卓 | 電卓ソフト | |||||
メーカー 型 式 |
HP 32SU |
CASIO FX-502P |
SHARP EC-506P |
Win95 電卓 |
HP 200LX |
HP EWS xhpcalc |
有効桁数 | 12 | 10 | 10 | 13 | 16 | 9 |
【計算1】 | ○ | ○ | × | × | ○ | ○ |
【計算2】 | ○ | × | ○ | ○ | ○ | ○ |
【計算3】 | ○ | × | ○ | ○ | ○ | × |
【計算4】 | ○ | ○ | × | × | ○ | × |