驚いたこと

エクセルでセルの数字の桁数はセルの書式の設定で変更できる。 私は表示は変わっても計算は元の桁数でするのかと思っていた。 具体的には私は毎日フィットネスクラブで体重を図っていて、それをエクセルにインプットしている。体重計の目盛りは0.5キロなので60.85とか61.05とかになる。エクセルのセルの表示を少数以下を四捨五入して一桁表示にしていて、毎月のまとめのところではその平均を表示させている。 体重計が0.5キロ刻みだからセルの表示は常にプラスに偏差するのは自明だ。それはわかるが、月平均の数字は日々の0.5刻みの体重の平均と思っていた。 ある日何の気なしに少数以下2桁まで表示させて平均をだすと……そうじゃなかったんですよ つまり日々の体重を四捨五入してセルに表示されている数字の月間平均なのです。 だから最大の場合、0.5キログラム情報に偏する可能性があるわけで、最善でも下2桁の平均を表示することになる。 これって仕様ですと言われると何とも言えないが、少しおかしくない?

続きを読む