Знаете ли как да коригирате следния проблем с математическа точност?
p RUBY_VERSION # => "1.9.1"
p 0.1%1 # => 0.1
p 1.1%1 # => 0.1
p 90.0%1 # => 0.0
p 90.1%1 # => 0.0999999999999943
p 900.1%1 # => 0.100000000000023
p RUBY_VERSION # => "1.9.2"
p 0.1%1 # => 0.1
p 1.1%1 # => 0.10000000000000009
p 90.0%1 # => 0.0
p 90.1%1 # => 0.09999999999999432
p 900.1%1 # => 0.10000000000002274
Както каза човекът;
Свиването на безкрайно много реални числа в краен брой битове изисква приблизително представяне.
Въпреки това постигнах голям успех с помощта на BigDecimal клас. Да цитирам интрото му
Ruby предоставя вградена поддръжка за целочислена аритметика с произволна точност. Например:
42**13 -> 1265437718438866624512
BigDecimal предоставя подобна поддръжка за много големи или много точни числа с плаваща запетая.
Вземам един от вашите примери;
>> x = BigDecimal.new('900.1')
=> #<BigDecimal:101113be8,'0.9001E3',8(8)>
>> x % 1
=> #<BigDecimal:10110b498,'0.1E0',4(16)>
>> y = x % 1
=> #<BigDecimal:101104760,'0.1E0',4(16)>
>> y.to_s
=> "0.1E0"
>> y.to_f
=> 0.1
Както можете да видите, осигуряването на прилична прецизност е възможно, но изисква малко усилия.
Това важи за всички компютърни езици, не само за Ruby. Това е функция за представяне на числа с плаваща запетая на двоични компютри:
Какво всеки компютърен специалист трябва да знае за аритметиката с плаваща запетая
Записването на 0.1 с плаваща запетая винаги ще доведе до грешки при закръгляване. Ако искате „прецизно“ десетично представяне, трябва да използвате Decimal тип.
PHP. Има ли някаква основателна причина Ruby да няма "точно" десетично представяне по подразбиране?
- person Andrei; 23.09.2010
