Вопросы по теме 'arbitrary-precision'

Большие целые и произвольные/множественные числа с плавающей запятой для Vala
Есть ли способ использовать большие целые числа или произвольные типы точности в vala?
352 просмотров
schedule 03.03.2024

Как карманные калькуляторы упрощают дроби и сохраняют неточные числа в виде дробей?
Может ли кто-нибудь объяснить, как калькуляторы (например, карманные калькуляторы Casio) управляют уравнениями, такими как «500/12», и могут возвращать в результате «125/3», или может кто-нибудь назвать некоторые алгоритмы, которые это делают? Под...
615 просмотров

Библиотеки произвольной точности JVM
Я работаю над проектом (на Scala), где мне нужно манипулировать некоторыми очень большими числами; слишком велики, чтобы их можно было представить в виде интегральных типов. Java предоставляет классы BigInteger и BigDecimal (а scala предоставляет...
2605 просмотров

Архиметика произвольной точности в Фортране
Как я могу выполнить арифметику произвольной точности в Fortran? Мне нужны две вещи. Я хочу работать с действительно большими целыми и действительными числами и работать с произвольными точными действительными числами.
1296 просмотров
schedule 17.05.2024

Попытка преобразовать большие целые числа в двоичные файлы с помощью as.binary
У меня есть большие целые числа, которые мне нужно преобразовать в двоичные, но я продолжаю получать это предупреждающее сообщение: Предупреждающие сообщения: В h(num) : возможна полная потеря точности по модулю 2: В...
46 просмотров

Как такие библиотеки, как MPFR, хранят и манипулируют действительными числами произвольной точности?
В настоящее время я работаю над приложением, которое требует использования произвольных вещественных чисел большой точности для вычисления pi с очень большим диапазоном точности. Я нашел MPFR замечательную библиотеку, высоко оптимизированную и...
35 просмотров