Свързани въпроси 'rounding-error'
Грешки при закръгляване с плаващи числа в Python с помощта на Numpy
Имам проблем, който вярвам, че е свързан с работата с плувки и прецизност, но не съм много добре запознат с различните тънкости. Аз съм математик и според мен все още може да работя с десетични знаци върху черна дъска. Ще започна да изучавам това,...
2707 изгледи
schedule
10.10.2022
Откриване на загуба на точност при преобразуване от двойно към плаващо
Пиша част от кода, в който трябва да конвертирам от двойни към плаващи стойности. Използвам boost::numeric_cast, за да направя това преобразуване, което ще ме предупреди за всяко препълване/недостатъчно препълване. Въпреки това ми е интересно да...
4799 изгледи
schedule
05.02.2024
Entity Framework Code Първо съкращавам моите десетични знаци
Използвам Entity Framework 6.x, като използвам подхода Code First на приложение MVC 5. В тази конкретна ситуация моят модел (наред с други неща) съдържа две свойства, наречени Latitude и Longitude:
[Required, Range(-90, +90)]
public decimal...
6617 изгледи
schedule
10.02.2024
Java числа, човешко закръгляване [затворено]
Обзалагам се, че имаше подобен въпрос тук на SO, просто не можах да го намеря. Въпросът е за коригиране на неточност на математиката в Java, когато получа например число като 235.00000002 или 9875.999999997 . По дяволите, за човек тези две...
183 изгледи
schedule
11.04.2024
Как да се справим с умножението на числа, близки до 1
Имам куп числа с плаваща запетая (удвоявания на Java), повечето от които са много близки до 1, и трябва да ги умножа заедно като част от по-голямо изчисление. Трябва да правя това много .
Проблемът е, че докато Java удвоява няма проблем с число...
898 изгледи
schedule
16.05.2024
Python: грешката при закръгляване изкривява равномерното разпределение
Трябва да взема проби от 10 равномерно разпределени произволни числа между 0 и 1. Затова реших, че следният код в python ще направи това:
positions = []
for dummy_i in range(1000000):
positions.append(round(random.random(),1))
Въпреки...
266 изгледи
schedule
10.05.2024