Результаты поиска по запросу "floating-point"
Если оператор <работает правильно для типов с плавающей точкой, почему мы не можем использовать его для проверки на равенство?
Правильное тестирование двух чисел с плавающей точкой на равенство - это то, что многие люди, включая меня, не до конца понимают. Однако сегодня я подумал о том, как некоторые стандартные контейнеры определяют равенство в терминахoperator<, ...
Есть ли документ, описывающий, как Clang обрабатывает избыточную точность с плавающей точкой?
Почти невозможно (*) обеспечить строгую семантику IEEE 754 при разумных затратах, когда разрешено использовать только одну инструкцию с плавающей точкой - 387. Это особенно трудно, когда кто-то хочет, чтобы FPU работал на полном 64-битном ...
Как проверить, является ли пользовательский ввод плавающим
Я выполняю упражнение «Изучите Python - трудный путь» 35. Ниже приведен исходный код, и нас просят изменить его, чтобы он мог принимать числа, в которых нет ...
Условие «больше чем» в MySQL иногда возвращает строку с одинаковым значением
Я сталкиваюсь с непонятной проблемой с базовым запросом MySQL.Это мой стол:
Детали реализации аппаратного делителя с плавающей запятой
Я пытаюсь реализовать аппаратное деление 32-разрядного аппаратного делителя с плавающей точкой, и мне интересно, могу ли я получить какие-либо предложения относительно некоторых компромиссов между различными алгоритмами? Мое устройство с ...
как преобразовать число с плавающей точкой в IEEE 754, используя сборку
Можете ли вы помочь мне преобразовать число с плавающей запятой в IEEE 754, используя сборкуУ меня есть это число -1,75, и я знаю, что это равно -1.110000000...
Как проверить, может ли строка приводиться к типу с плавающей точкой в Python? [Дубликат]
На этот вопрос уже есть ответ здесь:Проверка возможности преобразования строки в плавающее в Python 13 ответовЕсть ли какая-то функция, как
Как вы округлите число в Python?
Эта проблема убивает меня. Как собрать число UP в Python?Я попытался округлить (число), но оно округлило число вниз. Пример: