Вопросы по теме 'double'
Неожиданная потеря точности при делении двойников
У меня есть функция getSlope, которая принимает в качестве параметров 4 двойника и возвращает еще один двойник, рассчитанный с использованием этих заданных параметров следующим образом:
double QSweep::getSlope(double a, double b, double c, double...
7258 просмотров
schedule
27.11.2022
Ищете более простой способ использования поплавков в C#
По ряду причин мне приходится использовать в своем коде числа с плавающей запятой вместо двойных. Чтобы использовать литерал в моем коде, я должен написать что-то вроде:
float f = 0.75F;
или компилятор будет блевать, поскольку он...
437 просмотров
schedule
29.02.2024
С# двойное форматирование выравнивается по десятичному знаку
Я выравниваю числа с различным количеством десятичных знаков, чтобы десятичный знак выравнивался по прямой строке. Этого можно добиться, заполнив пробелами, но у меня проблемы.
Лейс говорит, что я хочу выровнять следующие числа: 0 0,0002 0,531...
4494 просмотров
schedule
26.02.2024
Как работает Double.isNaN()?
Реализация sun jdk выглядит так:
return v != v;
Кто-нибудь может объяснить, как это работает?
5131 просмотров
schedule
21.12.2023
Может ли двойное число представлять все значения, которые может представлять число с плавающей запятой?
Существуют определенные значения int, которые не может представлять число с плавающей запятой.
Однако может ли двойное число представлять все значения, которые может представлять число с плавающей запятой?
Моя интуиция говорит, что да, так как у...
5490 просмотров
schedule
11.11.2023
Разница между Float.MIN_VALUE и Float.MIN_NORMAL?
Возможный дубликат: Разница среди Double.MIN_NORMAL и Double.MIN_VALUE
1) Может ли кто-нибудь объяснить мне, в чем разница между MIN_NORMAL и MIN_VALUE?
System.out.println(Float.MIN_NORMAL);
System.out.println(Float.MIN_VALUE);...
8619 просмотров
schedule
07.12.2022
doubleValue не всегда правильно преобразует объект в двойное значение
У меня есть NSArray, в котором я хотел бы хранить двойные значения. Я определил это следующим образом
NSMutableArray *setOfDoubles;
Я добавляю элементы следующим образом
NSNumber *num;
num = [NSNumber numberWithDouble:someDouble];...
405 просмотров
schedule
03.03.2024
Двойной расчет с нечетным результатом
У меня есть 2 числа, сохраненные как Double, 1.4300 и 1.4350. Когда я вычитаю 1,4350 - 1,4300, это дает мне результат: 0,0050000000000001155. Почему он добавляет 1155 в конец и как решить эту проблему, чтобы он возвращал 0,005 или 0,0050? Я не...
1978 просмотров
schedule
24.04.2024
scanf float, print float, другое значение?
#include "stdafx.h"
#include "stdio.h"
#include "math.h"
int main()
{
float c;
printf("Type c");
scanf("%f", &c);
printf("C is c: %f ",c);
while(getchar()!='\n');
getchar();
return 0;
}
Очень простой код, я только...
2952 просмотров
schedule
23.11.2023
Двойное минус int дает неожиданные результаты
Возможный дубликат: Плавающий точечная арифметика не дает точных результатов в Java Примеры неточности с плавающей запятой
В Java, учитывая следующий код:
double amount = scan.nextDouble();
tenBills = (int)amount /...
14777 просмотров
schedule
24.11.2022
Очевидная неточность при увеличении и отображении двойных значений
Возможный дубликат: Сохранение точности с помощью Doubles в java Перемещение десятичных знаков в двойном формате
Класс говорит сам за себя. Если вы выполните этот код, двойные значения кажутся несколько переполненными, но тогда это...
639 просмотров
schedule
05.12.2023
Возможно ли, что число, точно представленное как число с плавающей запятой, НЕ может быть точно представлено как двойное?
У меня есть вопрос, который возник из другого вопроса о точности чисел с плавающей запятой.
Теперь я знаю, что числа с плавающей запятой не всегда могут быть точно представлены, и поэтому они хранятся как ближайшее возможное число с плавающей...
1707 просмотров
schedule
04.12.2022
С++ повысить лексическое приведение типа double к строке
Для следующего фрагмента кода
std::cout<<boost::lexical_cast<std::string>(2.34)<<std::endl
я получаю следующий вывод:
2.3399999999999999
А если я сделаю
double d = 2.34;
std::stringstream ss;
ss<<d;...
1333 просмотров
schedule
17.04.2024
Как узнать, безопасна ли двойная строка в оба конца?
У меня есть текстовое представление двойника, и я хочу знать, безопасно ли совершать круговые поездки, чтобы удвоить и обратно. Как мне узнать об этом, если я также хочу принять любой вид числового стиля ввода? Или как узнать, теряется ли какая-либо...
1876 просмотров
schedule
14.06.2024
Неправильное переполнение VBA с использованием Doubles (Excel)
По какой-то причине следующий оператор оценивается как нуль. Я предполагаю, что это связано с переполнением, но все промежуточные значения, похоже, находятся в пределах двойного значения.
DiffieHellmanKey = (43 ^ 47) - (53 * Fix((43 ^ 47) / 53))...
2274 просмотров
schedule
06.04.2024
Массив проекта в двойном несоответствии
У меня есть проект массива, с которым мне нужна небольшая помощь. Я сделал большую часть этого, но я столкнулся с парой проблем ближе к концу. У меня есть возможность вводить имена учеников, оценки, а затем сортировать оценки (вместе с именами) и...
162 просмотров
schedule
14.01.2024
Плавающее преобразование в двойное - лучшее утверждение в модульном тесте?
Учитывая заявления
float f = 7.1f;
double d = f;
Что мы можем утверждать в модульном тесте о d?
Например, это не работает:
Console.WriteLine(d == 7.1d); // false
Console.WriteLine(d < 7.1d + float.Epsilon); // true by luck...
1011 просмотров
schedule
13.11.2023
Тип данных с плавающей запятой библиотеки GMP
Я установил библиотеку GMP, чтобы заменить double и float другими типами данных с плавающей запятой с основанием 10. Может ли кто-нибудь сказать мне, что это за тип данных? И, может быть, подскажете, как ими пользоваться?
527 просмотров
schedule
21.11.2022
Почему умножение двух больших двойных чисел дает неверный результат?
Результат для этого двойного умножения (double)1000000007 * (double)11111111 должен заканчиваться на 7 (или быть точным, равным 11111111077777777). Но этот фрагмент кода, который я написал, выводит результат, оканчивающийся на 6 (или, если быть...
2699 просмотров
schedule
30.11.2023
C++ странный вывод при сложении целых чисел или удвоений вместе
У меня проблема с добавлением числовых типов вместе в С++, и я не могу понять, почему это происходит, я ожидаю, что когда я введу 3 балла для боулинга вместе, я получу 9 или 9,00, вместо этого я получаю что-то сумасшедшее, например 3.31748e + 258, что...
1833 просмотров
schedule
27.09.2022
