Вопросы по теме 'rounding-error'

Как справиться с умножением чисел, близких к 1
У меня есть куча чисел с плавающей запятой (двойники Java), большинство из которых очень близки к 1, и мне нужно перемножить их вместе как часть более крупного вычисления. Мне нужно сделать это часто . Проблема в том, что у двойников Java нет...
898 просмотров

Обнаружение потери точности при преобразовании из double в float
Я пишу фрагмент кода, в котором мне нужно преобразовать значения double в значения с плавающей запятой. Я использую boost::numeric_cast для этого преобразования, которое предупредит меня о любом переполнении/недополнении. Однако мне также интересно...
4799 просмотров

Округление до 2 знаков после запятой с помощью VBA
Я пишу программу, которая суммирует введенную информацию по месяцам (столбец) и по лицам (строка), но у меня возникли проблемы с округлением. Я видел другие места, где можно назвать диапазон, а затем отформатировать ячейки в этом диапазоне, чтобы...
6479 просмотров
schedule 15.09.2022

Числа Java, человеческое округление
Бьюсь об заклад, здесь на SO был аналогичный вопрос, я просто не мог его найти. Вопрос заключается в исправлении неточности математики Java, когда я получаю, например, число, подобное 235.00000002 или 9875.999999997 . Конечно, черт возьми, для...
183 просмотров
schedule 11.04.2024

Ошибки округления с плавающей запятой в Python с использованием Numpy
У меня проблема, которая, как мне кажется, связана с работой с поплавками и точностью, но я не очень хорошо разбираюсь в различных тонкостях. Я математик, и в моем уме я мог бы все еще просто работать с десятичными знаками на доске. Я начну изучать...
2707 просмотров
schedule 10.10.2022

Код Entity Framework Первое усечение моих десятичных знаков
Я использую Entity Framework 6.x, используя подход Code First в приложении MVC 5. В этой конкретной ситуации моя модель (среди прочего) содержит два свойства с именами Широта и Долгота: [Required, Range(-90, +90)] public decimal Latitude { get;...
6617 просмотров

Python: ошибка округления искажает равномерное распределение
Мне нужно отобрать 10 равномерно распределенных случайных чисел от 0 до 1. Поэтому я подумал, что следующий код на питоне сделает это: positions = [] for dummy_i in range(1000000): positions.append(round(random.random(),1)) Однако при...
266 просмотров
schedule 10.05.2024

Округление непоследовательно после математики с плавающей запятой
Возьмем следующий пример (с надуманными числами): double a = 9.0, b = 2.0; double c = a / b; int d = RoundAndCastToInt(c); В нескольких прогонах значение d не совпадает. Вот два надуманных способа выполнения математики: Выполнение 1:...
125 просмотров
schedule 16.12.2023