Сбой подмножества java BigDecimal

Интересно, что значения кажутся равными, и вычитание дает вам ноль, похоже, это просто проблема с кодом печати. Следующий код:

import java.math.BigDecimal;
public class Test {
    public static void main(String args[]) {
        BigDecimal b1 = new BigDecimal(0.01);
        BigDecimal b2 = new BigDecimal(0.01);
        BigDecimal b3 = new BigDecimal(0);
        if (b1.compareTo(b2) == 0) System.out.println("equal 1");
        b1 = b1.subtract(b2);
        if (b1.compareTo(b3) == 0) System.out.println("equal 2");
        System.out.println("BigDecimal result: "+ b1);
    }                          
}

выводит оба сообщения equal, указывая, что значения одинаковы одинаковы и что при вычитании вы получаете ноль.

Вы можете попытаться поднять это как ошибку и посмотреть, что вернется Oracle. Скорее всего, они просто заявят, что 0e-59 по-прежнему равно нулю, так что это не ошибка, или что довольно сложное поведение, описанное в страница документации BigDecimal работает должным образом. В частности, пункт, который гласит:

Существует однозначное соответствие между различимыми значениями BigDecimal и результатом этого преобразования. То есть каждое различимое значение BigDecimal (немасштабированное значение и масштаб) имеет уникальное строковое представление в результате использования toString. Если это строковое представление преобразуется обратно в BigDecimal с помощью конструктора BigDecimal(String), исходное значение будет восстановлено.

Тот факт, что исходное значение должно быть восстанавливаемым, означает, что toString() необходимо генерировать уникальную строку для каждой шкалы, поэтому вы получаете 0e-59. В противном случае преобразование строки back в BigDecimal может дать вам другое значение (кортеж немасштабированного значения/масштаба).

Если вы действительно хотите, чтобы ноль отображался как "0" независимо от масштаба, вы можете использовать что-то вроде:

if (b1.compareTo(BigDecimal.ZERO) == 0) b1 = new BigDecimal(0);

_{[Здесь есть много ответов, говорящих вам, что двоичные числа с плавающей запятой не могут точно представлять 0,01, и подразумевающих, что результат, который вы видите, является каким-то неточным. Хотя первая часть этого утверждения верна, на самом деле это не основная проблема.]}

Ответ заключается в том, что "0E-59" равно равно 0. Напомним, что BigDecimal представляет собой комбинацию немасштабированного значения и десятичного коэффициента масштабирования:

System.out.println(b1.unscaledValue());
System.out.println(b1.scale());

отображает:

0
59

Немасштабированное значение равно 0, как и ожидалось. «Странное» значение масштаба — это просто артефакт десятичного расширения неточного представления с плавающей запятой 0,01:

System.out.println(b2.unscaledValue());
System.out.println(b2.scale());

отображает:

1000000000000000020816681711721685132943093776702880859375
59

Следующий очевидный вопрос: почему BigDecimal.toString просто не отображает b1 как "0" для удобства? Ответ заключается в том, что строковое представление должно быть однозначным. Из Javadoc для toString :

Использовать конструктор из строки: b1 = new BigDecimal("0.01");

Потеря точности Java

(слайд 23) http://strangeoop2010.com/system/talks/presentations/000/014/450/BlochLee-JavaPuzzlers.pdf

Вы должны получить возвращаемое значение:

BigDecimal b3 = b1.subtract(b2);
System.out.println("BigDecimal result: "+ b3);

BigDecimal(двойное значение)

1.Результаты этого конструктора могут быть несколько непредсказуемыми. Можно предположить, что запись new BigDecimal(0.1) в Java создает BigDecimal, который точно равен 0,1 (немасштабированное значение 1 с масштабом 1), но на самом деле он равен 0,10000000000000000055511151231257827021181583404541015625. Это связано с тем, что 0,1 нельзя представить точно как двойное число (или, если на то пошло, как двоичную дробь любой конечной длины). Таким образом, значение, которое передается конструктору, не равно точно 0,1, несмотря на внешний вид.

2. Конструктор String, с другой стороны, совершенно предсказуем: запись new BigDecimal("0.1") создает BigDecimal, который точно равен 0,1, как и следовало ожидать. Поэтому обычно рекомендуется использовать конструктор String вместо этого.

3. Когда в качестве источника для BigDecimal необходимо использовать двойное число, обратите внимание, что этот конструктор обеспечивает точное преобразование; это не дает того же результата, что и преобразование double в String с использованием метода Double.toString(double) и последующего использования конструктора BigDecimal(String). Чтобы получить этот результат, используйте статический метод valueOf(double).

Итак, настоящий вопрос: со следующим кодом

BigDecimal b1 = new BigDecimal(0.01);
BigDecimal b2 = new BigDecimal(0.01);
b1 = b1.subtract(b2);

почему b1.toString() оценивается как "0E-59", а не как "0.0", "0E0" или просто "0"?

Причина в том, что toString() печатает канонический формат BigDecimal. См. BigDecimal.toString() для получения дополнительной информации.

В конце концов, 0E-59 равно 0.0 — это 0*10^59, которое математически оценивается как 0. Итак, неожиданный результат — это вопрос внутреннего представления BigDecimal.

Чтобы получить значения float или double, используйте

b1.floatValue());

or

b1.doubleValue());

Оба оцениваются как 0.0.

Это известная проблема, BigDecimal(double val) API. Результаты этого конструктора могут быть несколько непредсказуемыми. Хотя в этой интерпретации это выглядит очень странно. Настоящая причина в том, что новый BigDecimal(0.01) создает BigDecimal с приблизительными значениями.

0.01000000000000000020816681711721685132943093776702880859375

который имеет длинную точность, поэтому результат вычитания также имеет длинную точность.

В любом случае, мы можем решить "проблему" таким образом

BigDecimal b1 = new BigDecimal("0.01");
BigDecimal b2 = new BigDecimal("0.01");

или мы можем использовать конструктор с установкой точности

BigDecimal b1 = new BigDecimal(0.01, new MathContext(1));
BigDecimal b2 = new BigDecimal(0.01, new MathContext(1));

Используйте так:

BigDecimal b1 = BigDecimal.valueOf(0.01);
BigDecimal b2 = BigDecimal.valueOf(0.01);

b1 = b1.subtract(b2);
System.out.println("BigDecimal result: "+ b1);