Вопросы по теме 'rounding'
Как в C # округлить число до двух десятичных знаков?
Я хочу сделать это с помощью функции Math.Round
667064 просмотров
schedule
03.10.2022
Валюта форматирования C#
Я наблюдаю интригующую ситуацию с округлением валюты в C# (VS 2008 SP1). Ниже приведено изображение тестовых случаев:
замещающий текст http://img697.imageshack.us/img697/8500/testcases.png
Я ожидал, что случаи пять, шесть и семь (моя ошибка,...
924 просмотров
schedule
26.02.2024
Обнаружение потери точности при преобразовании из double в float
Я пишу фрагмент кода, в котором мне нужно преобразовать значения double в значения с плавающей запятой. Я использую boost::numeric_cast для этого преобразования, которое предупредит меня о любом переполнении/недополнении. Однако мне также интересно...
4799 просмотров
schedule
05.02.2024
Проблема с точностью математических операций Ruby
Знаете ли вы, как решить следующую проблему с математической точностью?
p RUBY_VERSION # => "1.9.1"
p 0.1%1 # => 0.1
p 1.1%1 # => 0.1
p 90.0%1 # => 0.0
p 90.1%1 # => 0.0999999999999943
p 900.1%1 # => 0.100000000000023
p...
1789 просмотров
schedule
20.04.2024
Раунд с целочисленным делением
Есть ли простой питонический способ округления до ближайшего целого числа без использования плавающей запятой? Я хотел бы сделать следующее, но с целочисленной арифметикой:
skip = int(round(1.0 * total / surplus))
==============
@John:...
43979 просмотров
schedule
27.11.2022
Граница вокруг формы с закругленным углом в С++ Builder XE
Я сделал форму C++ Builder XE с закругленным углом с помощью следующего кода
BorderStyle = bsNone;
void __fastcall TForm1::FormCreate(TObject *Sender)
{
HRGN frmrgn;
frmrgn = CreateRoundRectRgn (0, 0, ClientWidth,...
3133 просмотров
schedule
15.04.2024
Несоответствие с Math.Round ()
У меня есть две функции, которые предназначены для хранения углов между (-180,180] и (-π, π]. Цель состоит в том, чтобы при любом угле от -inf до + inf он сохранял эквивалентный угол в указанных интервалах. Например, угол для 1550 ° составляет 110 °....
323 просмотров
schedule
13.06.2024
Странное поведение функции RoundTo на двух разных компьютерах
Задача проста и странна! Я написал программу в Delphi и использовал функцию roundto. На одном компьютере 1,5 округляется до 2, а на другом округляется до 1. Как такое могло произойти?
PS: код ------> Roundto (1.5, 0)
P.S 2: Кажется, нужно...
3501 просмотров
schedule
24.10.2023
Лучшая практика Django для округления десятичных знаков: интерфейс или сервер?
У меня есть довольно обширный сайт Django, который имеет дело с суммами в валюте, которые должны отображаться с двумя десятичными знаками, но, поскольку над этими суммами выполняются математические операции, за кулисами используются 4 десятичных...
1551 просмотров
schedule
19.03.2024
Есть ли способ получить правильное округление с помощью инструкции i387 fsqrt?
Есть ли способ получить правильное округление с помощью инструкции i387 fsqrt? ...
... помимо изменения режима точности в управляющем слове x87 - я знаю, что это возможно, но это не разумное решение, потому что у него есть неприятные проблемы с...
897 просмотров
schedule
25.09.2022
Ошибка округления в Python с нечетным числом?
Я новичок в Python, и у меня есть один вопрос. Почему округление числа вроде 5,5, 7,5 (любого).5 с нечетной целой частью с применением round(num) работает правильно (правило 5/4), но округление числа вроде (что угодно).5 с нечетной целой частью той...
3735 просмотров
schedule
25.11.2023
Примените условную операцию к каждому элементу вектора в MATLAB
У меня есть такой вектор V = [0.5,0.6,0.2,0.8...] , и я хочу сопоставить каждый элемент с ближайшим целым числом 0 или 1.
Какова функция или метод для этого?
137 просмотров
schedule
19.01.2024
Округление целых чисел до ближайших десяти или сотен в C
Я пытаюсь придумать функцию в C, которая удовлетворяла бы следующим условиям:
Он принимает целое число больше 0 в качестве аргумента;
Он округляет это целое число до ближайшего значения, чтобы только первая цифра не была нулем.
Например:...
22087 просмотров
schedule
20.01.2024
Округление до двух знаков после запятой - не найти правильную формулу
Кажется, я не могу найти правильную формулу для двух знаков после запятой в моем коде. Прямо сейчас он округляется до трех знаков после запятой, когда я нажимаю на первый вариант в отношении вычислений (не то чтобы 3 знака после запятой что-то...
353 просмотров
schedule
21.10.2022
Почему десятичные дроби 1.00M и 1.000000M различаются в C#
У меня была странная проблема. Я попытался присвоить десятичную переменную веб-службе SAP. Но я получил ошибку CX_SY_CONVERSION_LOST_DECIMALS для десятичного знака, превышающего лимит.
Я решил это, используя Math.Round(Decimal, Int32) Метод...
905 просмотров
schedule
20.04.2024
Привести к плаванию в Javascript, как в С#
С# код:
float floatA = 4;
float floatB = 17;
float floatC = floatA / floatB; //0.235294119
double doubleA = 4;
double doubleB = 17;
double doubleC = doubleA / doubleB; // 0.23529411764705882
float res = (float)doubleC; // 0.235294119
js-код:...
392 просмотров
schedule
26.11.2023
Числа Java, человеческое округление
Бьюсь об заклад, здесь на SO был аналогичный вопрос, я просто не мог его найти. Вопрос заключается в исправлении неточности математики Java, когда я получаю, например, число, подобное 235.00000002 или 9875.999999997 . Конечно, черт возьми, для...
183 просмотров
schedule
11.04.2024
Как удалить миллисекунды из LocalTime в Java 8
Используя структуру java.time, я хочу напечатать время в формате hh:mm:ss , но LocalTime.now() дает время в формате hh:mm:ss,nnn . Я пытался использовать DateTimeFormatter :
DateTimeFormatter formatter = DateTimeFormatter.ISO_LOCAL_TIME;...
28136 просмотров
schedule
11.10.2022
С++ округлить двойное число до 2 знаков после запятой
У меня возникли проблемы с округлением двойного среднего балла до 2 знаков после запятой. (например, средний балл нужно округлить: 3,67924) В настоящее время я использую ceil для округления, но в настоящее время он выводит его как целое число (368)...
77943 просмотров
schedule
27.12.2023
Как быстро округлить Double до ближайшего Int?
Я пытаюсь сделать калькулятор скорости роста ( Double ), который округлит результат до ближайшего целого числа и пересчитает оттуда, как таковой:
let firstUsers = 10.0
let growth = 0.1
var users = firstUsers
var week = 0
while users < 14 {...
176692 просмотров
schedule
10.06.2024
