Результаты поиска по запросу "floating-point"

1 ответ

Максимальное количество десятичных цифр, которые могут повлиять на двойной

Рассмотрим десятичные представления вида d1.d2d3d4d5 ... dnExxx, где xxx - произвольный показатель степени, а оба d1 и dn отличны от нуля. Известно ли максимальное значение n, для которого существует десятичное представление d1.d2d3d4d5 ... ...

4 ответа

Почему Java Double.compare (double, double) реализован таким, какой он есть?

3 ответа

Javascript Regex: проверка двойного / плавающего

Вот'образец яя работаю над:

ТОП публикаций

4 ответа

двойное и плавающее сравнение [дубликаты]

На этот вопрос уже есть ответ здесь:Сравнивая поплавок и двойник 3 ответаВ соответствии сэта почтапри сравнении числа с плавающей точкой и числа с двойным чи...

1 ответ

Не получить точные данные при обращении БПФ

Хорошо, что яЯ пытаюсь достичь просто. Примените БПФ к некоторым случайным данным, а затем примените обратный алгоритм к выходным данным, чтобы вернуть входн...

4 ответа

sizeof long double и точность не совпадают?

Рассмотрим следующий код C:

5 ответов

Функция ParseFloat в JavaScript

Когда я добавляю два значения текстового поля, которые1,001 а также0,001 а потом я делаю

1 ответ

Как исправить этот алгоритм квадратного корня с плавающей точкой

Я пытаюсь вычислить 32-битный корень с плавающей точкой IEEE-754 для различных входов, но для одного конкретного входа нижеприведенный алгоритм, основанный н...

2 ответа

Что происходит, когда переменная с плавающей точкой выходит за пределы?

5 ответов

Почему вы используете float over double или double вместо long double?