Вопросы по теме 'underflow'
Проверка переполнения/переполнения в С++?
Есть ли общий способ проверки переполнения или потери значимости данного типа данных (uint32, int и т. д.)?
Я делаю что-то вроде этого:
uint32 a,b,c;
... //initialize a,b,c
if(b < c) {
a -= (c - b)
}
Когда я печатаю после некоторых...
16219 просмотров
schedule
04.02.2024
Недополнение в Matlab
Является ли хорошей практикой вручную устанавливать числа с большой отрицательной экспонентой, такие как 1e-300, на ноль, чтобы избежать недополнения в Matlab?
Если нет, как мы можем избежать вреда потери значимости при реализации таких функций,...
1542 просмотров
schedule
18.05.2024
С# ulong переполнение / потеря значимости как-то разрешено
Меня немного смущает поведение типа ulong . Насколько я понимаю, это 64-битное целое число, используемое для положительные числа (максимальное значение – 18 446 744 073 709 551 615). Я только начал использовать его, потому что мне нужны...
1067 просмотров
schedule
09.04.2024
Предотвратить недополнение в делении с плавающей запятой в Python
Предположим, что и x , и y — очень маленькие числа, но я знаю, что истинное значение x / y разумно.
Как лучше всего вычислить x/y ? В частности, вместо этого я делал np.exp(np.log(x) - np.log(y) , но я не уверен, что это вообще что-то...
5342 просмотров
schedule
06.03.2024