Excelの計算と電卓の計算が合わない理由は端数処理

2013年8月30日

「Excelの計算と、電卓の計算があわない」「しかたないので手打ちしてる」という声を聞きます。
その原因は端数処理であることが多いです。

Excelには、見えていない数字がある

Excelでは、小数部分は表示されないことがあります。
次の3つは見た目が同じ数字で、このままだと問題ありませんが、

計算に使うと（×10）、その違いが影響してきます。

表示と異なり、実は、こういった数字が入っているのです。

Excelで小数点以下を表示しない場合、小数第1位は四捨五入されます。

874.5717485→875
874.3184921→874
と表示されるのです。

正確に計算するために、関数で端数処理をする癖をつけましょう。

小数第1位で切り捨てなら、=ROUNDDOWN（数値、1）
1,000円未満切り捨てなら、=ROUNDDOWN（数値、-3）
です。

私はこれをよく使います。入力も楽で、他の関数と組み合わせたときも読みやすいからです。

=INT(数値×5/105）で、税込金額から消費税額を計算できます。

ROUNDDOWNとの違いは、マイナスの数値のときです。
=ROUNDDOWN（-100.5,0)だと、ー100
=INT(-100.5)だとー101になります。
金額の場合なら問題にならないでしょう。

会計ソフトへの取り込みの際に、マイナス仕訳をしていると、端数処理後の結果が異なることもありますが、全体から見れば大きな影響ではありません。

ROUNDOWNと同様に桁数も指示します。

この端数処理で気をつけなければいけないのは、タイミングです。

計算過程、計算結果の2つのタイミングで端数処理をしないと、電卓の計算と合わなくなる可能性があります。

たとえば、a÷b×cを計算する場合で、
実際の数字は、135.485，　87.7，　859.09
Excel表示上は、135，　　　87，　859
である場合を考えてみましょう。

電卓で検算するときは、Excelに表示されている数字で、135÷87×859と計算するはずです。
結果は、1,332.93103となり、端数を切り捨てて1,332と考えます。

Excelで端数処理を全くやらない場合は、1,327。

過程（a、b、cのそれぞれ）のみを端数処理した場合は、1,333

過程も計算結果も端数処理した場合は、1,332となり、電卓と一致します。

（それぞれのセルの数式は、8行目から11行目に表示しています。青いセルが端数処理をしているセルです。）

これでようやく電卓検算と一致するのです。
ミスをなくすのであれば、過程でも結果でも端数処理をするのがおすすめです。

※もう1つ、a/bを出した時点で端数処理をするケースもあります。その場合は、電卓検算時にも端数処理する必要があります。

【編集後記】
事務所付近でおいしいお店を探しています。
最近見つけたのは、神保町のうどん屋、丸香。
なかなかおいしいです。
お昼時は結構な行列なので時間をずらした方がいいかと思います。