Результаты поиска по запросу "precision"
Как сгенерировать последовательность из n случайных натуральных чисел, которые складываются до некоторого значения?
Я пытаюсь сгенерировать массив целых чисел, содержащий случайные значения, складывающиеся до определенного значения. Вот мой код:
Регулировка десятичной точности, .net
Эти строки в C #
десятичное форматирование без округления .net
Вчера спросилэтот общий вопрос о десятичных дробях и их внутренней точности. Вот конкретный вопрос о сценарии, на который я пытаюсь ответить. У меня есть ст...
GNU Octave, округлить число до единиц измерения
В GNU Octave версии 3.4.3 я хочу округлить матрицу с точностью до 2 единиц для содержимого такой матрицы.
Как использовать и проверить четкость квадра в gfortran?
Я пытаюсь использовать четкую четкость в gfortran, но кажется, что
Странная ошибка в R при импорте (64-битного) целого числа со многими цифрами
Я импортирую CSV, который имеет один столбец, который содержит очень длинные целые числа (например: 2121020101132507598) a<-read.csv('temp.csv&ap...
десятичный против двойного! - Какой я должен использовать и когда? [Дубликат]
This question already has an answer here: When should I use double instead of decimal? 12 answ...
Библиотека .NET Framework для произвольной точности цифр
Я возвращаюсь к этому вопросу и уточняю его: существует ли библиотека фреймворков .NET, которая поддерживает числа с произвольными цифрами точности?