Работя с python на raspberry pi. Използвам допълнителен филтър, за да получа по-добри стойности от жироскопа, но той изяжда твърде много мощност на малината - това е около 70%. Мислех, че мога да повиша производителността чрез намаляване на точността на плаваща запетая. Сега резултатите имат около 12 знака след десетичната запетая, това е много повече, отколкото ми трябва. Има ли някакъв начин да зададете максимална точност? Самото закръгляване на числото не отговаря на нуждите ми, тъй като това е просто друго изчисление. Благодаря!
Редактиране: Опитах се да използвам модул Decimal и с прецизност, зададена на 6, беше почти 6 пъти по-бавен от float! Има ли някакъв друг начин за работа с числа с фиксирана запетая освен Decimal (изглежда, че е създаден за по-висока точност, отколкото за производителност)
cdecimal
? - person Willem Van Onsem   schedule 09.07.2014