Результаты поиска по запросу "floating-point"
Что именно является параметром «разрешения» numpy float
Я ищу больше понимания о параметре «разрешения» для numpy float (я думаю, что любой компьютер определил float по этому вопросу).Рассмотрим следующий скрипт:
Изменить формат печати по умолчанию
У меня есть несколько списков и более сложные структуры, содержащие поплавки. При их печати я вижу числа с большим количеством десятичных цифр, но при печати...
Запись IEEE 754-1985 в качестве ASCII с двойной строкой из 16 байтов
Это продолжение моегооригинальный пост, Но я повторю это для ясности:Согласно стандарту DICOM, тип с плавающей запятой может быть сохранен с использованием п...
Стоит ли сравнивать числа с плавающей запятой на равенство с * относительной * ошибкой?
До сих пор я видел много постов, посвященных равенству чисел с плавающей точкой. Стандартный ответ на вопрос типа «как мы должны решить, равны ли x и y?» явл...
Насколько детерминистична погрешность с плавающей запятой?
Я понимаю, что вычисления с плавающей запятой имеют проблемы с точностью, и есть много вопросов, объясняющих почему. У меня вопрос: если я выполняю один и то...
Сокращение десятичного числа не округляется [дубликат]
Возможный дубликат:Как округлить десятичное значение до 2 знаков после запятой (для вывода на странице)Я хочу обрезать десятичные дроби, как показано нижето ...
Приведение к INT против пола
Есть ли разница между этими:
Десятичная точность поплавков
эквивалентно log10 (2 ^ 24) ≈ 7.225 десятичных цифрВикипедияТочность: 7 цифрMSDN6