23/07/02 08:54:41.17 .net
>>493
度分秒の計算について、気になったことを…偶然に見つけたのですが、
16時12分から16時49分まで経過時間は？
16.49[→DEG][;-]16.12[→DEG][=][→D.MS] ⇒ ０．３６５９９９
６０進数⇔１０進数の変換の為に切り捨てが発生＆１０進数で計算していることにより上記の結果となってるのではないかな？
[°’”] を都度押すカシオやキヤノンの電卓は上記の誤差か出ていなので内部は６０進数で計算している？
23/07/02 08:54:41.17 .net
>>493
度分秒の計算について、気になったことを…偶然に見つけたのですが、
16時12分から16時49分まで経過時間は？
16.49[→DEG][;-]16.12[→DEG][=][→D.MS] ⇒ ０．３６５９９９
６０進数⇔１０進数の変換の為に切り捨てが発生＆１０進数で計算していることにより上記の結果となってるのではないかな？
[°’”] を都度押すカシオやキヤノンの電卓は上記の誤差か出ていなので内部は６０進数で計算している？