Свързани въпроси 'rounding'
Има ли някакъв начин да получите правилно закръгляване с инструкцията i387 fsqrt?
Има ли някакъв начин да получите правилно закръгляване с инструкцията i387 fsqrt?...
... освен промяната на режима на прецизност в контролната дума на x87 - знам, че това е възможно, но не е разумно решение, защото има неприятни проблеми от типа...
897 изгледи
schedule
25.09.2022
Как закръглявате число до два знака след десетичната запетая в C#?
Искам да направя това с помощта на функцията Math.Round
667064 изгледи
schedule
03.10.2022
IEEE 754: sqrtf() с fesetround(): различни резултати между компилаторите: 0x42440a72 срещу 0x42440a73
#include <stdio.h>
#include <stdint.h>
#include <fenv.h>
#include <math.h>
int main()
{
typedef union { uint32_t u; float f; } ufloat;
ufloat val;
float arg = 2401.999999;
int r;
r =...
92 изгледи
schedule
30.09.2022
Как да премахнете милисекунди от LocalTime в java 8
Използвайки рамката java.time, искам да отпечатам времето във формат hh:mm:ss , но LocalTime.now() дава времето във формат hh:mm:ss,nnn . Опитах се да използвам DateTimeFormatter :
DateTimeFormatter formatter =...
28136 изгледи
schedule
11.10.2022
Кръгла с целочислено деление
Има ли прост, питоничен начин за закръгляване до най-близкото цяло число без използване на плаваща запетая? Бих искал да направя следното, но с целочислена аритметика:
skip = int(round(1.0 * total / surplus))
==============
@John:...
43979 изгледи
schedule
27.11.2022
Странно поведение на функцията RoundTo в два различни компютъра
Проблемът е прост и странен! Написах програма в Delphi и използвах функция roundto. В един компютър 1,5 е закръглено до 2, а в друг компютър е закръглено до 1. Как може да се случи това?
P.S: Код------> Roundto(1.5, 0)
P.S 2: Изглежда е...
3501 изгледи
schedule
24.10.2023
Грешка при закръгляване в Python с нечетно число?
Аз съм начинаещ в Python и имам един въпрос. Защо закръгляването на число като 5.5, 7.5, (каквото и да е).5 с нечетна цяло число, прилагащо round(num) , работи правилно (правило 5/4), но закръгляването на число като (всичко).5 с нечетна цяло число...
3735 изгледи
schedule
25.11.2023
Закръгляване до два знака след десетичната запетая - не намиране на правилната формула
Изглежда не мога да намеря правилната формула за два знака след десетичната запетая в моя код. В момента се закръгля до три знака след десетичната запетая, когато щракна върху първата опция по отношение на изчисленията (не че 3 знака след десетичната...
353 изгледи
schedule
21.10.2022
Прехвърляне към плаващ в Javascript като в c#
c# код:
float floatA = 4;
float floatB = 17;
float floatC = floatA / floatB; //0.235294119
double doubleA = 4;
double doubleB = 17;
double doubleC = doubleA / doubleB; // 0.23529411764705882
float res = (float)doubleC; // 0.235294119
js код:...
392 изгледи
schedule
26.11.2023
C++ закръглете двойно до 2 знака след десетичната запетая
Имам проблем със закръгляването на GPA двойно до 2 знака след десетичната запетая. (напр. GPA трябва да бъде закръглен: 3,67924) В момента използвам ceil за закръгляване, но в момента го извежда като цяло число (368)
ето какво имам в момента...
77943 изгледи
schedule
27.12.2023
Има ли начин да се попречи на закръгляването в python?
има ли начин да се попречи на закръгляването на python, напр.:
>>> getcontext().prec = 11; print (Decimal(1.1237836550999999999)*10**10)
11237836551
Трябва да покажа първите 10 знака след десетичната запетая на десетичното число,...
430 изгледи
schedule
05.01.2024
Най-близкото кратно на степен две дробни
Има ли оптимизиран, ефективен начин за закръгляне на двойно до точната стойност, най-близкото кратно на дадена степен на две дроби?
С други думи, закръглянето на .44 до най-близката 1/16 (с други думи, до стойност, която може да бъде изразена...
618 изгледи
schedule
10.11.2022
Приложете условна операция към всеки елемент от вектор в MATLAB
Имам вектор като V = [0.5,0.6,0.2,0.8...] и искам да картографирам всеки елемент към най-близкото му цяло число 0 или 1.
Каква е функцията или методът за това?
137 изгледи
schedule
19.01.2024
Закръгляване на цели числа до най-близките десет или сто в C
Опитвам се да измисля функция в C, която да отговаря на следните условия:
Приема цяло число, по-голямо от 0 като аргумент;
Той закръгля това цяло число до най-близката стойност, така че само първата цифра да не е нула
Например:
53...
22087 изгледи
schedule
20.01.2024
Откриване на загуба на точност при преобразуване от двойно към плаващо
Пиша част от кода, в който трябва да конвертирам от двойни към плаващи стойности. Използвам boost::numeric_cast, за да направя това преобразуване, което ще ме предупреди за всяко препълване/недостатъчно препълване. Въпреки това ми е интересно да...
4799 изгледи
schedule
05.02.2024
Как Python babel закръгля числа?
Създавам финансов уебсайт с рамката на Flask и в момента пиша модулни тестове за него. Използвам пакета Babel за форматиране на парични суми и попаднах на доста странно поведение на закръгляване. Бих очаквал закръгляването да е нагоре в случай...
432 изгледи
schedule
20.02.2024
Валута на форматиране на C#
Виждам интригуваща ситуация със закръгляване на валутата в C# (VS 2008 SP1). По-долу е изображение на тестовите случаи:
http://img697.imageshack.us/img697/8500/testcases.png
Очаквах случаи пет, шест и седем (лошото ми е, че не ги номерирах в...
924 изгледи
schedule
26.02.2024
Най-добра практика на Django за закръгляване на десетични знаци: интерфейс или бекенд?
Имам доста обширен сайт на Django, който се занимава с валутни суми, които трябва да бъдат показани с 2 знака след десетичната запетая, но тъй като върху тези суми се извършват математически операции, зад кулисите се използват 4 знака след десетичната...
1551 изгледи
schedule
19.03.2024
Java числа, човешко закръгляване [затворено]
Обзалагам се, че имаше подобен въпрос тук на SO, просто не можах да го намеря. Въпросът е за коригиране на неточност на математиката в Java, когато получа например число като 235.00000002 или 9875.999999997 . По дяволите, за човек тези две...
183 изгледи
schedule
11.04.2024
Проблем с прецизността на математическите операции на Ruby
Знаете ли как да коригирате следния проблем с математическа точност?
p RUBY_VERSION # => "1.9.1"
p 0.1%1 # => 0.1
p 1.1%1 # => 0.1
p 90.0%1 # => 0.0
p 90.1%1 # => 0.0999999999999943
p 900.1%1 # => 0.100000000000023
p...
1789 изгледи
schedule
20.04.2024
