Свързани въпроси 'floating-point'
Операциите с плаваща запетая са по-бавни, когато се използват малки стойности?
Имам следната проста програма, която умножава две различни числа с плаваща запетая много пъти. Както можете да видите, едно от числата е много малко. Когато изчислих времето за изпълнение на двете умножения, бях изненадан, че малкото число отнема...
323 изгледи
schedule
21.09.2022
SQL Server 2008: Грешка при преобразуване на тип данни nvarchar в float
В момента се отстранява проблем при изпълнение на тази SQL заявка:
UPDATE tblBenchmarkData
SET OriginalValue = DataValue, OriginalUnitID = DataUnitID,
DataValue = CAST(DataValue AS float) * 1.335
WHERE
FieldDataSetID =...
43362 изгледи
schedule
23.09.2022
Има ли някакъв начин да получите правилно закръгляване с инструкцията i387 fsqrt?
Има ли някакъв начин да получите правилно закръгляване с инструкцията i387 fsqrt?...
... освен промяната на режима на прецизност в контролната дума на x87 - знам, че това е възможно, но не е разумно решение, защото има неприятни проблеми от типа...
897 изгледи
schedule
25.09.2022
Как да чета по един знак наведнъж от файл в python?
Искам да прочета в списък с числа от файл като символи един знак наведнъж, за да проверя какво представлява този знак, дали е цифра, точка, + или -, e или E или някакъв друг знак. ..и след това да изпълня каквато операция искам въз основа на това....
3536 изгледи
schedule
24.09.2022
Знакът нула с поплавъци
Помислете за следния код, изпълняващ операции върху комплексни числа с float на C/C++:
float real_part = log(3.f);
float imag_part = 0.f;
float real_part2 = (imag_part)*(imag_part)-(real_part*real_part);
float imag_part2 =...
133 изгледи
schedule
29.09.2022
Как се изпълнява fma().
Според документацията има функция fma() в math.h . Това е много хубаво и знам как работи FMA и за какво да го използвам. Но не съм много сигурен как това се прилага на практика? Интересувам се най-вече от архитектурите x86 и x86_64 .
Има...
1894 изгледи
schedule
01.10.2022
IEEE 754: sqrtf() с fesetround(): различни резултати между компилаторите: 0x42440a72 срещу 0x42440a73
#include <stdio.h>
#include <stdint.h>
#include <fenv.h>
#include <math.h>
int main()
{
typedef union { uint32_t u; float f; } ufloat;
ufloat val;
float arg = 2401.999999;
int r;
r =...
92 изгледи
schedule
30.09.2022
CGImage float форматът изисква размяна на байтове?
Извършвам обработка на изображения, която изисква данни за изображения с плаваща запетая в сива скала. Методът -imagePlanarFData: по-долу в момента е как извличам тези данни от вход CIImage :
- (NSData *)byteswapPlanarFData:(NSData *)data...
660 изгледи
schedule
11.10.2022
Какво означават тези три специални стойности с плаваща запетая: положителна безкрайност, отрицателна безкрайност, NaN?
Как можем да ги използваме в нашите кодове и какво ще причини NaN (не число)?
21668 изгледи
schedule
07.12.2022
Delphi Math: Защо е 0,7‹0,70?
Ако имам променливи a, b, an c от тип double, нека c:=a/b и дам стойности на a и b от 7 и 10, тогава стойността на c от 0,7 се регистрира като ПО-МАЛКА ОТ 0,70.
От друга страна, ако всички променливи са с разширен тип, тогава стойността на c от 0,7...
3785 изгледи
schedule
29.10.2022
Как да конвертирате шестнадесетичен float в float в C/C++ с помощта на _mm_extract_ps SSE GCC instrinc функция
Пиша SSE код за 2D конволюция, но SSE документацията е много оскъдна. Изчислявам точков продукт с _mm_dp_ps и използвам _mm_extract_ps, за да получа резултата от точковия продукт, но _mm_extract_ps връща шестнадесетичен, който представлява число с...
2231 изгледи
schedule
17.10.2022
Как да получа десетичната част на float?
Трябва да извлека десетичната част от число с плаваща запетая, но получавам странни резултати:
float n = 22.65f;
// I want x = 0.65f, but...
x = n % 1; // x = 0.6499996
x = n - Math.floor(n); // x = 0.6499996185302734
x = n - (int)n; // x =...
88708 изгледи
schedule
29.11.2022
Накарайте VarToDoubleAsString да използва настройките на Delphi (не настройките на OS)
Когато някой присвои Variant, съдържащ стойност на низ към променлива с плаваща запетая, Delphi извиква VarToDoubleAsString, за да направи преобразуването, което от своя страна използва настройките на ОС за десетичен и хиляден разделител (чрез...
820 изгледи
schedule
27.10.2022
Мога ли да принудя java да изведе грешка при деление на нула с числа с плаваща запетая?
Написах симулатор, който има някакъв код за откриване на сблъсъци и прави добра математика на всеки обект, когато открие сблъсъци.
Ако тези два обекта са на едно и също място или в някои редки други случаи, получавам NaN (не число) като тяхното...
7141 изгледи
schedule
29.10.2023
Разлика между Float.MIN_VALUE и Float.MIN_NORMAL?
Възможен дубликат: Разлика между Double.MIN_NORMAL и Double.MIN_VALUE
1) Моля, някой може ли да ми обясни каква е разликата между MIN_NORMAL и MIN_VALUE?
System.out.println(Float.MIN_NORMAL);
System.out.println(Float.MIN_VALUE);...
8619 изгледи
schedule
07.12.2022
Максимални и минимални стойности в масив PointF[].
Имам масив от PointF, който искам да използвам за чертане на крива с метода Graphics.DrawCurve.
За да направя това, сега трябва да задам max и min както на X, така и на Y, за да мога правилно да мащабирам кутията си с растерно изображение.
Как е...
3836 изгледи
schedule
20.11.2022
Възможно ли е число, точно представено като float, да НЕ може точно да бъде представено като double?
Имам въпрос, който възникна от друг въпрос относно точността на плаващите числа.
Сега знам, че плаващите точки не винаги могат да бъдат представени точно и следователно те се съхраняват като най-близкото възможно плаващо число, което може да бъде...
1707 изгледи
schedule
04.12.2022
C отпечатване на char масив като float
Опитвам се да отпечатам масив от 4 елемента като плаващо число. Компилаторът(gcc) не ми позволява да напиша z.s={'3','4','j','k'}; във функцията main(), защо?
#include <stdio.h>
union n{
char s[4];
float x;
};
typedef union n N;...
646 изгледи
schedule
21.10.2022
Може ли двойно да представлява всички стойности, които може да представлява float?
Има определени int стойности, които float не могат да бъдат представени.
Въпреки това, може ли двойното да представлява всички стойности, които плаващото число може да представлява?
Интуицията ми казва да, тъй като двойното има повече дробни...
5490 изгледи
schedule
11.11.2023
iPhone - Съхраняване на двойна стойност в NSDictionary само със 7 знака след десетичната запетая като тип число
Имам PList, който съдържа речник с някои десетични стойности като 10.1234567, съхранени като тип номер (таг). В моето приложение чета този plist и манипулирам тези стойности като NSNumber (стойности от двоен тип) с персонализиран клас и неговите...
4349 изгледи
schedule
08.11.2023
