Вопросы по теме 'floating-point'
Как использовать %f для заполнения двойного значения в строку с нужной точностью
Я пытаюсь заполнить строку двойным значением, используя sprintf следующим образом:
sprintf(S, "%f", val);
Но точность обрезается до шести знаков после запятой. Мне нужно около 10 знаков после запятой для точности.
Как этого можно достичь?
28753 просмотров
schedule
11.01.2024
Безопасно ли проверять значения с плавающей запятой на равенство 0?
Я знаю, что обычно нельзя полагаться на равенство значений типа double или decimal, но мне интересно, является ли 0 особым случаем.
Хотя я могу понять неточности между 0,00000000000001 и 0,00000000000002, само значение 0 кажется довольно сложным,...
75421 просмотров
schedule
05.01.2024
Как извлечь десятичную часть из числа с плавающей запятой в C?
Как мы можем извлечь десятичную часть числа с плавающей запятой и сохранить десятичную часть и целую часть в две отдельные целочисленные переменные?
235754 просмотров
schedule
21.04.2024
Могу ли я заставить java выдавать ошибку при делении на ноль с числами с плавающей запятой?
Я написал симулятор, в котором есть код для обнаружения столкновений, и при обнаружении столкновений он выполняет неплохие математические вычисления для каждого объекта.
Если эти два объекта находятся в одном и том же месте или в некоторых других...
7141 просмотров
schedule
29.10.2023
Как справиться с умножением чисел, близких к 1
У меня есть куча чисел с плавающей запятой (двойники Java), большинство из которых очень близки к 1, и мне нужно перемножить их вместе как часть более крупного вычисления. Мне нужно сделать это часто .
Проблема в том, что у двойников Java нет...
898 просмотров
schedule
16.05.2024
Что означают эти три специальных значения с плавающей запятой: положительная бесконечность, отрицательная бесконечность, NaN?
Как мы можем использовать их в наших кодах и что вызовет NaN (а не число)?
21668 просмотров
schedule
07.12.2022
Операции с плавающей запятой медленнее, когда используются небольшие значения?
У меня есть следующая простая программа, которая многократно умножает два разных числа с плавающей запятой. Как видите, одно из чисел очень маленькое. Когда я вычислил время выполнения обоих умножений, я был удивлен, что маленькое число занимает...
323 просмотров
schedule
21.09.2022
Ищете более простой способ использования поплавков в C#
По ряду причин мне приходится использовать в своем коде числа с плавающей запятой вместо двойных. Чтобы использовать литерал в моем коде, я должен написать что-то вроде:
float f = 0.75F;
или компилятор будет блевать, поскольку он...
437 просмотров
schedule
29.02.2024
Большое число с плавающей запятой для проводника Мандельброта на основе шейдеров
Мне удалось создать простой проводник Мандельброта, используя Open Gl и CGFX SDK, предоставленный NVidia. Он работает хорошо, но в настоящее время основан на числах с плавающей запятой и, следовательно, не имеет большой "глубины" - по мере того, как...
1683 просмотров
schedule
14.02.2024
С#: преобразовать массив байтов в число с плавающей запятой
У меня есть массив байтов размером 4
byte[] source = new byte[4];
Теперь я хотел преобразовать этот источник в 4-байтовое значение с плавающей запятой...
Может ли кто-нибудь сказать мне, как это сделать...
70097 просмотров
schedule
23.02.2024
Как работает Double.isNaN()?
Реализация sun jdk выглядит так:
return v != v;
Кто-нибудь может объяснить, как это работает?
5131 просмотров
schedule
21.12.2023
Delphi Math: Почему 0,7 <0,70?
Если у меня есть переменные a, b, a c типа double, позвольте c: = a / b и дать значения a и b 7 и 10, тогда значение c в 0,7 регистров будет МЕНЬШЕ, ЧЕМ 0,70.
С другой стороны, если все переменные имеют расширенный тип, то значение c, равное 0,7,...
3785 просмотров
schedule
29.10.2022
Может ли двойное число представлять все значения, которые может представлять число с плавающей запятой?
Существуют определенные значения int, которые не может представлять число с плавающей запятой.
Однако может ли двойное число представлять все значения, которые может представлять число с плавающей запятой?
Моя интуиция говорит, что да, так как у...
5490 просмотров
schedule
11.11.2023
Как преобразовать шестнадцатеричное число с плавающей запятой в число с плавающей запятой в C / C ++ с помощью функции _mm_extract_ps SSE GCC instrinc
Я пишу код SSE для двумерной свертки, но документация по SSE очень скудна. Я вычисляю скалярное произведение с помощью _mm_dp_ps и использую _mm_extract_ps для получения результата скалярного произведения, но _mm_extract_ps возвращает...
2231 просмотров
schedule
17.10.2022
Обнаружение потери точности при преобразовании из double в float
Я пишу фрагмент кода, в котором мне нужно преобразовать значения double в значения с плавающей запятой. Я использую boost::numeric_cast для этого преобразования, которое предупредит меня о любом переполнении/недополнении. Однако мне также интересно...
4799 просмотров
schedule
05.02.2024
Javascript: сравнение двух значений с плавающей запятой
У меня есть эта функция JavaScript:
Contrl.prototype.EvaluateStatement = function(acVal, cfVal) {
var cv = parseFloat(cfVal).toFixed(2);
var av = parseFloat(acVal).toFixed(2);
if( av < cv) // do some thing
}
Когда я сравниваю...
49823 просмотров
schedule
30.03.2024
определить двойную константу как шестнадцатеричную?
Я хотел бы иметь ближайшее число ниже 1,0 в качестве числа с плавающей запятой. Прочитав статью в Википедии о IEEE-754 , мне удалось узнать что двоичное представление для 1.0 равно 3FF0000000000000 , поэтому ближайшее двойное значение на самом...
3449 просмотров
schedule
10.12.2023
Как работает этот код для получения самой низкой битовой позиции?
unsigned GetLowestBitPos(unsigned value)
{
double d = value ^ (value - !!value);
return (((int*)&d)[1]>>20)-1023; // This is what I really need help understanding.
}
Мне кажется, что код преобразует двойное значение в указатель...
327 просмотров
schedule
05.04.2024
Как получить десятичную часть числа с плавающей запятой?
Мне нужно извлечь десятичную часть числа с плавающей запятой, но я получаю странные результаты:
float n = 22.65f;
// I want x = 0.65f, but...
x = n % 1; // x = 0.6499996
x = n - Math.floor(n); // x = 0.6499996185302734
x = n - (int)n; // x =...
88708 просмотров
schedule
29.11.2022
Заставить VarToDoubleAsString использовать настройки Delphi (а не настройки ОС)
Когда кто-то присваивает Variant, содержащий строковое значение, переменной с плавающей запятой, Delphi вызывает VarToDoubleAsString для выполнения преобразования, которое, в свою очередь, использует настройки ОС для десятичного разделителя и...
820 просмотров
schedule
27.10.2022
