Результаты поиска по запросу "precision"

1 ответ

Установить точность с помощью fstream для выходного файла - формат двойной

Я не могу найти ответ о том, как я могу использовать уже открытый fstream для вывода отформатированных парных чисел в текстовый файл. В настоящее время мой к...

4 ответа

Странная ошибка в R при импорте (64-битного) целого числа со многими цифрами

Я импортирую CSV, который имеет один столбец, который содержит очень длинные целые числа (например: 2121020101132507598) a<-read.csv('temp.csv&ap...

1 ответ

Деление двух целых чисел для получения результата с плавающей запятой [дубликат]

Возможный дубликат:Почему можноЯ возвращаю двойное из двух целыхМоя программа на C ++ усекает вывод моего целочисленного значения, даже когда я пытаюсь помес...

ТОП публикаций

3 ответа

Как сохранить точность для программы Fortran MPI портативным способом?

У меня есть программа на Фортране, где я указываюkind числовых типов данных в попытке сохранить минимальный уровень точности, независимо от того, какой компилятор используется для сборки программы. Например: integer, parameter :: rsp = ...

3 ответа

Проблема при планировании задач с помощью функции clock ()

1 ответ

Как конвертировать в поплавки в JavaScript?

Я хочу иметь возможность использовать

2 ответа

печатать дважды с точностью 4, используя cout [duplicate]

Возможный дубликат: Конвертировать двойную в фиксированную десятичную точку в C ++ [https://stackoverflow.com/questions/3844010/convert-a-double-to-fixed-decimal-point-in-c] Предположим, у меня естьdouble a = 0 и я хочу напечатать как0.0000 . Я ...

2 ответа

Как удвоить число без знака, используя побитовый и логический оператор в C

3 ответа

Высокая точность чисел с плавающей точкой в Haskell?

Я знаю, что в Haskell есть нативные типы данных, которые позволяют вам иметь действительно большие целые числа, такие вещи, как

1 ответ

Что именно является параметром «разрешения» numpy float

Я ищу больше понимания о параметре «разрешения» для numpy float (я думаю, что любой компьютер определил float по этому вопросу).Рассмотрим следующий скрипт: