08/04/25 22:58:05
高精度計算サイト
URLﾘﾝｸ(keisan.casio.jp)
公開数日で、はてブ500ブックマーク突破。
有効桁数50桁。これ、BCDかなあ…。オリジナル精度の浮動小数点数かも。
プロの電卓屋が考えた「独自の桁数可変型演算システム」とやらの詳細が知りたいぜ！
君たちの大好きな 1 / 3 * 3 もちゃんと 1 になるぞ！
08/04/25 22:58:05
高精度計算サイト
URLﾘﾝｸ(keisan.casio.jp)
公開数日で、はてブ500ブックマーク突破。
有効桁数50桁。これ、BCDかなあ…。オリジナル精度の浮動小数点数かも。
プロの電卓屋が考えた「独自の桁数可変型演算システム」とやらの詳細が知りたいぜ！
君たちの大好きな 1 / 3 * 3 もちゃんと 1 になるぞ！