Свързани въпроси 'rounding-error'

Грешки при закръгляване с плаващи числа в Python с помощта на Numpy
Имам проблем, който вярвам, че е свързан с работата с плувки и прецизност, но не съм много добре запознат с различните тънкости. Аз съм математик и според мен все още може да работя с десетични знаци върху черна дъска. Ще започна да изучавам това,...
2707 изгледи
schedule 10.10.2022

Откриване на загуба на точност при преобразуване от двойно към плаващо
Пиша част от кода, в който трябва да конвертирам от двойни към плаващи стойности. Използвам boost::numeric_cast, за да направя това преобразуване, което ще ме предупреди за всяко препълване/недостатъчно препълване. Въпреки това ми е интересно да...
4799 изгледи

Entity Framework Code Първо съкращавам моите десетични знаци
Използвам Entity Framework 6.x, като използвам подхода Code First на приложение MVC 5. В тази конкретна ситуация моят модел (наред с други неща) съдържа две свойства, наречени Latitude и Longitude: [Required, Range(-90, +90)] public decimal...
6617 изгледи

Java числа, човешко закръгляване [затворено]
Обзалагам се, че имаше подобен въпрос тук на SO, просто не можах да го намеря. Въпросът е за коригиране на неточност на математиката в Java, когато получа например число като 235.00000002 или 9875.999999997 . По дяволите, за човек тези две...
183 изгледи
schedule 11.04.2024

Как да се справим с умножението на числа, близки до 1
Имам куп числа с плаваща запетая (удвоявания на Java), повечето от които са много близки до 1, и трябва да ги умножа заедно като част от по-голямо изчисление. Трябва да правя това много . Проблемът е, че докато Java удвоява няма проблем с число...
898 изгледи

Python: грешката при закръгляване изкривява равномерното разпределение
Трябва да взема проби от 10 равномерно разпределени произволни числа между 0 и 1. Затова реших, че следният код в python ще направи това: positions = [] for dummy_i in range(1000000): positions.append(round(random.random(),1)) Въпреки...
266 изгледи
schedule 10.05.2024