有効数字で事故を起こした

みなさんExcelちゃんと使えてますか？

本日有効数字で事故を起こしてしまい先生を困らせてしまいました。流石にストレスで吐きました。

オンゲロゲロ

ゴミ箱にゴミ袋がかぶせてなかったので洗う羽目になりました。生分解素材を使ってるセブンイレブンまでビニール袋を有料化しているせいです。

情報系って浮動小数点が許す限り、無限に精度が出せてしまうんですが、どうやって扱えば良いんですかね？論文も全部は載せてないし。今度調べないと

Excelってセルの書式で桁数を変えられるんですが、そのまま計算して貼り付けたら大変なことになったという話です。

	数値	書式変更	RROUNDUP
数値A	0.3101992	0.3102	0.3102
数値B	0.9920203	0.9920	0.9921

こんな感じの数値があったとします。この数値Aの数値Bにたいする割合を求めたいと思います。パーセンテージだと

割合＝数値A/数値B *100.0

ですね。書式変更とROUNDの両方の計算結果を見てみましょう

書式変更の計算結果	0.312694408
ROUNDUP同士の計算結果	0.312670094
比率	1.000077762

洒落にならないくらいエラーが出てしまいます。

ROUNDの結果と同じ有効数字小数点下4桁より1桁下でエラーが発生していました。四捨五入に巻き込まれるとエラーが発生します。

コレをうっかり100分率とかにしちゃうと2桁ズレるので完全にアウト

無次元の値だと思って適当に扱ってましたがヤバすぎる。ヤバすぎて頭が痛くなってきた。

　　　　　　　　　　　　　　   ,, -―-、
　　　　　　　　　　　　　／　　　　 ヽ
　　　　　　　／￣￣／　　／i⌒ヽ､|　　　　オエーー！！！！
　　　　　　/　　（゜）/　　 ／　/
　　　　　/　　　　 ト､.,../　,ー-､
　　　　=彳　　　　　 ＼＼‘ﾟ。､｀ ヽ。、ｏ
　　　　/ 　 　　　　　　　＼＼ﾟ。､。、ｏ
　　　/　　　　　　　　　/⌒ ヽ ヽU　　ｏ
　　 /　　　　　　　　　│　　　`ヽU　∴ｌ
　　│　　　　　　　　　│　　　　　U　：l
　　　　　　　　　　　　　　　　　　　　|：!
　　　　　　　　　　　　　　　　　　　　Ｕ

僕はラボから追い出されないように頑張ります。

それでは皆さんさようなら。