FLOAT
FLOATで誤差が出るというのは良く言われているわけだが、具体的な例を挙げろと言われると中々見つけるのが困難だったりしたのだが、ちょうど良い例を見つけたので、メモ。 irb(main):001:0> 7.2 => 7.2 irb(main):002:0> 6.0 * 1.2 => 7.2 irb(main):003:0> …
FLOATで誤差が出るというのは良く言われているわけだが、具体的な例を挙げろと言われると中々見つけるのが困難だったりしたのだが、ちょうど良い例を見つけたので、メモ。 irb(main):001:0> 7.2 => 7.2 irb(main):002:0> 6.0 * 1.2 => 7.2 irb(main):003:0> …