スキルアップを始める!

単精度浮動小数点(有効桁数15桁)【スプレッドシート】

Googleスプレッドシート
\ワードプレスのスキルアップはこちら!/ WordPress入門読本

有効桁数15桁…?

単精度浮動小数点は、スプレッドシートの数値型の一つで、15桁の有効桁数を持ちます。

これは、数値の精度が十分である場合には十分ですが、非常に大きな数や小さな数を扱う場合には、精度が低下する可能性があります。

スプレッドシートで数値を入力する際には、数値が単精度浮動小数点であるかどうかを確認することが重要です。

16桁を入力した状態で足し算をすると、計算結果が四捨五入?

[rml_read_more]

16桁を入力した状態で足し算をすると、計算結果が四捨五入?されてしまいました。

スプレッドシートの表示桁数の制約によって計算結果が切り捨てられたり、四捨五入されたりすることがあるようです。

まとめ

16桁以上の計算は単精度浮動小数点(有効桁数15桁)の問題で計算結果がおかしなことになってしまいました。

この場合、計算結果が精度を失わないように、計算式を工夫する必要がある場合があります。

※今後のバージョンアップで変わる可能性もあります。

URLをコピーしました!