Результаты поиска по запросу "floating-point"
Есть ли какой-нибудь простой способ округлить число с однозначным числом в задаче c?
Да. Вы правы. Конечно, это двойной вопрос. Прежде чем пометить мой вопрос, пожалуйста, продолжайте читать ниже.Я хочу округлить значение с плавающей точкой, ...
Есть ли способ убедиться, что арифметика с плавающей запятой одинакова как в Linux, так и в Windows?
Моя программа работает как в Linux, так и в Windows, я должен убедиться, что арифметика с плавающей точкой дает одинаковый результат в разных ОС.Вот код:
Несоответствие типов данных в Фортране
Мы написали элементарный алгоритм на Фортране 95 для вычисления градиента функции (пример которого прописан в коде), используя центральные различия, дополнен...
Двоичное представление числа с плавающей точкой в Python (биты не шестнадцатеричные)
Как получить строку в виде двоичного IEEE 754 представления 32-разрядного числа с плавающей запятой?пример1,00 -> '00111111100000000000000000000000'
PHP конвертировать строки в плавающий / двойной
У меня есть список строк (размер в байтах), я читаю их из файла. Допустим, одной из строк является 2968789218, но когда я конвертирую ее в число с плавающей ...
Почему sprintf в Perl неправильно округляет числа с плавающей точкой?
Я искал соглашение о округлении, используемое Perl 'встроенная функцияSprintf.Я думал, что это делает нормальное округление (например, ROUND_HALF_UP как ...