Результаты поиска по запросу "floating-point"
Максимальное количество десятичных цифр, которые могут повлиять на двойной
Рассмотрим десятичные представления вида d1.d2d3d4d5 ... dnExxx, где xxx - произвольный показатель степени, а оба d1 и dn отличны от нуля. Известно ли максимальное значение n, для которого существует десятичное представление d1.d2d3d4d5 ... ...
Javascript Regex: проверка двойного / плавающего
Вот'образец яя работаю над:
двойное и плавающее сравнение [дубликаты]
На этот вопрос уже есть ответ здесь:Сравнивая поплавок и двойник 3 ответаВ соответствии сэта почтапри сравнении числа с плавающей точкой и числа с двойным чи...
Не получить точные данные при обращении БПФ
Хорошо, что яЯ пытаюсь достичь просто. Примените БПФ к некоторым случайным данным, а затем примените обратный алгоритм к выходным данным, чтобы вернуть входн...
sizeof long double и точность не совпадают?
Рассмотрим следующий код C:
Функция ParseFloat в JavaScript
Когда я добавляю два значения текстового поля, которые1,001 а также0,001 а потом я делаю
Как исправить этот алгоритм квадратного корня с плавающей точкой
Я пытаюсь вычислить 32-битный корень с плавающей точкой IEEE-754 для различных входов, но для одного конкретного входа нижеприведенный алгоритм, основанный н...