Знаете ли вы, как решить следующую проблему с математической точностью?
p RUBY_VERSION # => "1.9.1"
p 0.1%1 # => 0.1
p 1.1%1 # => 0.1
p 90.0%1 # => 0.0
p 90.1%1 # => 0.0999999999999943
p 900.1%1 # => 0.100000000000023
p RUBY_VERSION # => "1.9.2"
p 0.1%1 # => 0.1
p 1.1%1 # => 0.10000000000000009
p 90.0%1 # => 0.0
p 90.1%1 # => 0.09999999999999432
p 900.1%1 # => 0.10000000000002274
Как сказал человек;
Сжатие бесконечного числа действительных чисел в конечное число битов требует приближенного представления.
Однако я добился больших успехов, используя ссылку класс BigDecimal. Цитировать его вступление
Ruby предоставляет встроенную поддержку целочисленной арифметики произвольной точности. Например:
42**13 -> 1265437718438866624512
BigDecimal обеспечивает аналогичную поддержку очень больших или очень точных чисел с плавающей запятой.
Возьмем один из ваших примеров;
>> x = BigDecimal.new('900.1')
=> #<BigDecimal:101113be8,'0.9001E3',8(8)>
>> x % 1
=> #<BigDecimal:10110b498,'0.1E0',4(16)>
>> y = x % 1
=> #<BigDecimal:101104760,'0.1E0',4(16)>
>> y.to_s
=> "0.1E0"
>> y.to_f
=> 0.1
Как видите, обеспечить приличную точность возможно, но для этого потребуются небольшие усилия.
Это верно для всех компьютерных языков, а не только для Ruby. Это особенность представления чисел с плавающей запятой на двоичных компьютерах:
Что должен знать каждый программист об арифметике с плавающей запятой
Запись 0.1 в число с плавающей запятой всегда приводит к ошибкам округления. Если вам нужно «точное» десятичное представление, вам следует использовать тип Decimal.
PHP. Есть ли веская причина, по которой Ruby не имеет «точного» десятичного представления по умолчанию?
- person Andrei; 23.09.2010
