Свързани въпроси 'floating-point-precision'

Полезно ли е да има междинни резултати при удвояване, когато входът и изходът са плаващи?
Чудя се за следното: Имам метод, който приема float като вход и връща float след известно изчисление. Изчисленията могат да включват всичко като събиране, деление, логаритми, степени и т.н. Докато правите това, междинният резултат трябва да бъде...
60 изгледи

Прехвърляне към плаващ в Javascript като в c#
c# код: float floatA = 4; float floatB = 17; float floatC = floatA / floatB; //0.235294119 double doubleA = 4; double doubleB = 17; double doubleC = doubleA / doubleB; // 0.23529411764705882 float res = (float)doubleC; // 0.235294119 js код:...
392 изгледи

Намалете точността на плаваща запетая в python, за да увеличите производителността
Работя с python на raspberry pi. Използвам допълнителен филтър, за да получа по-добри стойности от жироскопа, но той изяжда твърде много мощност на малината - това е около 70%. Мислех, че мога да повиша производителността чрез намаляване на...
1850 изгледи

Защо умножението и деленето на N коригира представянето с плаваща запетая?
Работя в JavaScript, но проблемът е общ. Вземете тази грешка при закръгляване: >> 0.1 * 0.2 0.020000000000000004 Този отговор на StackOverflow предоставя хубаво обяснение. По същество някои десетични числа не могат да бъдат...
434 изгледи

Точност, защо Matlab и Python numpy дават толкова различни резултати?
Знам за основните типове данни и че плаващите типове (float,double) не могат да съдържат точно някои числа. При пренасянето на някакъв код от Matlab към Python (Numpy) обаче открих някои значителни разлики в изчисленията и мисля, че се връща към...
3698 изгледи

Как се смущава многоъгълник, така че два от ръбовете му да не лежат на една и съща линия?
Даден ви е прост многоъгълник, определен от точки в R 2 . Можете да преместите точка по осите x и y с малко ε (напр. 1e-4). Какъв е алгоритъмът за преместване на точките, за да сте сигурни, че два ръба на многоъгълника не лежат точно на една и съща...
173 изгледи