Результаты поиска по запросу "precision"

10 ответов

Как сгенерировать последовательность из n случайных натуральных чисел, которые складываются до некоторого значения?

Я пытаюсь сгенерировать массив целых чисел, содержащий случайные значения, складывающиеся до определенного значения. Вот мой код:

3 ответа

Различия в точности в Matlab и C ++

2 ответа

OpenCL Точность с плавающей точкой

ТОП публикаций

7 ответов

Регулировка десятичной точности, .net

Эти строки в C #

3 ответа

десятичное форматирование без округления .net

Вчера спросилэтот общий вопрос о десятичных дробях и их внутренней точности. Вот конкретный вопрос о сценарии, на который я пытаюсь ответить. У меня есть ст...

3 ответа

GNU Octave, округлить число до единиц измерения

В GNU Octave версии 3.4.3 я хочу округлить матрицу с точностью до 2 единиц для содержимого такой матрицы.

5 ответов

Как использовать и проверить четкость квадра в gfortran?

Я пытаюсь использовать четкую четкость в gfortran, но кажется, что

4 ответа

Странная ошибка в R при импорте (64-битного) целого числа со многими цифрами

Я импортирую CSV, который имеет один столбец, который содержит очень длинные целые числа (например: 2121020101132507598) a<-read.csv('temp.csv&ap...

7 ответов

десятичный против двойного! - Какой я должен использовать и когда? [Дубликат]

This question already has an answer here: When should I use double instead of decimal? 12 answ...

9 ответов

Библиотека .NET Framework для произвольной точности цифр

Я возвращаюсь к этому вопросу и уточняю его: существует ли библиотека фреймворков .NET, которая поддерживает числа с произвольными цифрами точности?