Вопросы по теме 'arbitrary-precision'
Большие целые и произвольные/множественные числа с плавающей запятой для Vala
Есть ли способ использовать большие целые числа или произвольные типы точности в vala?
352 просмотров
schedule
03.03.2024
Как карманные калькуляторы упрощают дроби и сохраняют неточные числа в виде дробей?
Может ли кто-нибудь объяснить, как калькуляторы (например, карманные калькуляторы Casio) управляют уравнениями, такими как «500/12», и могут возвращать в результате «125/3», или может кто-нибудь назвать некоторые алгоритмы, которые это делают?
Под...
615 просмотров
schedule
04.10.2022
Библиотеки произвольной точности JVM
Я работаю над проектом (на Scala), где мне нужно манипулировать некоторыми очень большими числами; слишком велики, чтобы их можно было представить в виде интегральных типов. Java предоставляет классы BigInteger и BigDecimal (а scala предоставляет...
2605 просмотров
schedule
15.04.2024
Архиметика произвольной точности в Фортране
Как я могу выполнить арифметику произвольной точности в Fortran?
Мне нужны две вещи. Я хочу работать с действительно большими целыми и действительными числами и работать с произвольными точными действительными числами.
1296 просмотров
schedule
17.05.2024
Попытка преобразовать большие целые числа в двоичные файлы с помощью as.binary
У меня есть большие целые числа, которые мне нужно преобразовать в двоичные, но я продолжаю получать это предупреждающее сообщение:
Предупреждающие сообщения:
В h(num) : возможна полная потеря точности по модулю 2:
В...
46 просмотров
schedule
11.03.2024
Как такие библиотеки, как MPFR, хранят и манипулируют действительными числами произвольной точности?
В настоящее время я работаю над приложением, которое требует использования произвольных вещественных чисел большой точности для вычисления pi с очень большим диапазоном точности. Я нашел MPFR замечательную библиотеку, высоко оптимизированную и...
35 просмотров
schedule
06.11.2022