Вопросы по теме 'underflow'

Проверка переполнения/переполнения в С++?
Есть ли общий способ проверки переполнения или потери значимости данного типа данных (uint32, int и т. д.)? Я делаю что-то вроде этого: uint32 a,b,c; ... //initialize a,b,c if(b < c) { a -= (c - b) } Когда я печатаю после некоторых...
16219 просмотров
schedule 04.02.2024

Недополнение в Matlab
Является ли хорошей практикой вручную устанавливать числа с большой отрицательной экспонентой, такие как 1e-300, на ноль, чтобы избежать недополнения в Matlab? Если нет, как мы можем избежать вреда потери значимости при реализации таких функций,...
1542 просмотров
schedule 18.05.2024

С# ulong переполнение / потеря значимости как-то разрешено
Меня немного смущает поведение типа ulong . Насколько я понимаю, это 64-битное целое число, используемое для положительные числа (максимальное значение – 18 446 744 073 709 551 615). Я только начал использовать его, потому что мне нужны...
1067 просмотров
schedule 09.04.2024

Предотвратить недополнение в делении с плавающей запятой в Python
Предположим, что и x , и y — очень маленькие числа, но я знаю, что истинное значение x / y разумно. Как лучше всего вычислить x/y ? В частности, вместо этого я делал np.exp(np.log(x) - np.log(y) , но я не уверен, что это вообще что-то...
5342 просмотров