エクセルでその計算をすると小数点以下何十位にしても「1」(もしくは「1.00000・・・・」とでます。これはどのような計算方法なのでしょうか?当たり前と言えば当たり前ですが。
URLはダミーです。
電卓が逐次的に計算をしているのに対し、
エクセルでは式をまとめて評価しているからだと思います。
つまり、電卓では1÷3=0.333333・・・と言う計算がなされた時点である程度の桁数で数値が終わっているので3を掛けてもその桁までしか得られないということです。
エクセルの計算結果は、上のURLページに書かれているとおり、切り捨てなどの設定がなされています。
このページから、色々な関数を調べると判りますよ。
A1とA4のセルをごらん下さい
両方0.3333333333333330です
しかし *3かけると値が違います
つまり、1÷3×3を計算する過程で、セルを直接参照するわけではなく、計算結果を保持しながら計算してるのでしょうね
ダミーです。
こんにちは。
一般的な電卓では、1÷3をいったん計算し、その結果、即ち0.33333に3をかけます。従って、0.9999になってしまいます。もちろん正しい計算ではありません。
式を入力できるような電卓、(過去に持っていたことがあります)はちゃんと1になります。
Excelは正しく計算しているということでしょう。
http://www.hatena.ne.jp/1096334087#
1÷3×3を電卓ですると「0.999999999・・・・・」となります。 エクセルでその計算をすると小数点以下何十位にしても「1」(もしくは「1.00000・・・・」とでます。こ.. - 人力検索はてな
パソコンのEXCELや電卓では内部でバイナリの実数演算を行い、結果を表示する為に10進数変換してるので、必要な桁数で四捨五入されます。桁数(精度)はCPUやOSで異なります。
ありがとうございました。
どういう条件で四捨五入されるのでしょうか?