2017-10-02から1日間の記事一覧
地球の丸さを例にして有効数字の話をしている。しかし、扱い方がちょっと変に感じられる。著者の言う６桁は小数点以下ではなくて、頭の数字（重力加速度でいえば９）かららしい。３桁わかれば十分なデータが得られるとの３桁も怪しいものであるが、コンピュ…
地球の丸さを例にして有効数字の話をしている。しかし、扱い方がちょっと変に感じられる。著者の言う６桁は小数点以下ではなくて、頭の数字（重力加速度でいえば９）かららしい。３桁わかれば十分なデータが得られるとの３桁も怪しいものであるが、コンピュ…
