Результаты поиска по запросу "floating-point"

1 ответ

Что именно является параметром «разрешения» numpy float

Я ищу больше понимания о параметре «разрешения» для numpy float (я думаю, что любой компьютер определил float по этому вопросу).Рассмотрим следующий скрипт:

6 ответов

Изменить формат печати по умолчанию

У меня есть несколько списков и более сложные структуры, содержащие поплавки. При их печати я вижу числа с большим количеством десятичных цифр, но при печати...

5 ответов

Запись IEEE 754-1985 в качестве ASCII с двойной строкой из 16 байтов

Это продолжение моегооригинальный пост, Но я повторю это для ясности:Согласно стандарту DICOM, тип с плавающей запятой может быть сохранен с использованием п...

ТОП публикаций

5 ответов

Стоит ли сравнивать числа с плавающей запятой на равенство с * относительной * ошибкой?

До сих пор я видел много постов, посвященных равенству чисел с плавающей точкой. Стандартный ответ на вопрос типа «как мы должны решить, равны ли x и y?» явл...

10 ответов

Насколько детерминистична погрешность с плавающей запятой?

Я понимаю, что вычисления с плавающей запятой имеют проблемы с точностью, и есть много вопросов, объясняющих почему. У меня вопрос: если я выполняю один и то...

10 ответов

Сокращение десятичного числа не округляется [дубликат]

Возможный дубликат:Как округлить десятичное значение до 2 знаков после запятой (для вывода на странице)Я хочу обрезать десятичные дроби, как показано нижето ...

7 ответов

Приведение к INT против пола

Есть ли разница между этими:

2 ответа

Десятичная точность поплавков

эквивалентно log10 (2 ^ 24) ≈ 7.225 десятичных цифрВикипедияТочность: 7 цифрMSDN6

6 ответов

В чем разница между приведением к `float` и добавлением` f` в качестве суффикса при инициализации `float`?

1 ответ

умножение с плавающей запятой против повторного сложения