Результаты поиска по запросу "precision"
Установить точность с помощью fstream для выходного файла - формат двойной
Я не могу найти ответ о том, как я могу использовать уже открытый fstream для вывода отформатированных парных чисел в текстовый файл. В настоящее время мой к...
Странная ошибка в R при импорте (64-битного) целого числа со многими цифрами
Я импортирую CSV, который имеет один столбец, который содержит очень длинные целые числа (например: 2121020101132507598) a<-read.csv('temp.csv&ap...
Деление двух целых чисел для получения результата с плавающей запятой [дубликат]
Возможный дубликат:Почему можноЯ возвращаю двойное из двух целыхМоя программа на C ++ усекает вывод моего целочисленного значения, даже когда я пытаюсь помес...
Как сохранить точность для программы Fortran MPI портативным способом?
У меня есть программа на Фортране, где я указываюkind числовых типов данных в попытке сохранить минимальный уровень точности, независимо от того, какой компилятор используется для сборки программы. Например: integer, parameter :: rsp = ...
Как конвертировать в поплавки в JavaScript?
Я хочу иметь возможность использовать
печатать дважды с точностью 4, используя cout [duplicate]
Возможный дубликат: Конвертировать двойную в фиксированную десятичную точку в C ++ [https://stackoverflow.com/questions/3844010/convert-a-double-to-fixed-decimal-point-in-c] Предположим, у меня естьdouble a = 0 и я хочу напечатать как0.0000 . Я ...
Высокая точность чисел с плавающей точкой в Haskell?
Я знаю, что в Haskell есть нативные типы данных, которые позволяют вам иметь действительно большие целые числа, такие вещи, как
Что именно является параметром «разрешения» numpy float
Я ищу больше понимания о параметре «разрешения» для numpy float (я думаю, что любой компьютер определил float по этому вопросу).Рассмотрим следующий скрипт: