Результаты поиска по запросу "floating-point"
Есть ли способ убедиться, что арифметика с плавающей запятой одинакова как в Linux, так и в Windows?
Моя программа работает как в Linux, так и в Windows, я должен убедиться, что арифметика с плавающей точкой дает одинаковый результат в разных ОС. Вот код: for (int i = 0; i < 100000; ++i) { float d_value = 10.0f / float(i); float p_value = ...
Есть ли риск использования переменных с плавающей запятой в качестве счетчиков цикла и их дробного увеличения / уменьшения для условий, отличных от «==»?
Безопасно ли использовать поплавки в качестве счетчиков циклов и увеличивать / уменьшать их дробными величинами на каждой итерации, как в безвредной на вид программе ниже? Конечно, я знаю, что использование поплавков в качестве операндов ...
Самый быстрый способ обнулить низкие значения в массиве?
Итак, допустим, у меня есть 100 000 массивов с плавающей точкой по 100 элементов в каждой. Мне нужно наибольшее количество значений X, НО только в том случае, если они больше Y. Любой элемент, не соответствующий этому, должен быть установлен на ...
Нахождение ближайшего значения с плавающей точкой меньше, чем конкретное целочисленное значение в C ++?
У меня есть входное значение с плавающей запятой, которое составляет 0,0f <= значение <1,0f (обратите внимание, меньше, чем один). При умножении этого значения на больший диапазон, естественно, точность с плавающей запятой уменьшается, что ...
Проверка на равенство с плавающей точкой и дополнительная точность: может ли этот код не сработать?
Обсуждение началось вмой ответ на другой вопрос [https://stackoverflow.com/questions/16322465/finding-the-closest-floating-point-value-less-than-a-specific-integer-value-in-c/16322800#16322800] , Следующий код определяетмашина ...
Преврати плавание в строку
Я перешел к утверждению, когда мне нужно превратить числа одинарной и двойной точности IEEE-754 в строки с основанием10, ЕстьFXTRACT инструкция доступна, но она предоставляет только экспоненту и мантиссу для базы 2, так как формула вычисления ...
Почему добавление 0 в конец литерала с плавающей точкой меняет способ его округления (возможная ошибка GCC)?
На моей виртуальной машине x86 (32 бит) я обнаружил следующую программу: #include <stdio.h> void foo (long double x) { int y = x; printf("(int)%Lf = %d\n", x, y); } int main () ...
sizeof long double и точность не совпадают?
Рассмотрим следующий код C: #include <stdio.h> int main(int argc, char* argv[]) { const long double ld = 0.12345678901234567890123456789012345L; printf("%lu %.36Lf\n", sizeof(ld), ld); return 0; }Составлено сgcc 4.8.1 подUbuntu x64 13.04, он ...
Как исправить этот алгоритм квадратного корня с плавающей точкой
Я пытаюсь вычислить 32-битный корень с плавающей точкой IEEE-754 для различных входов, но для одного конкретного входа приведенный ниже алгоритм, основанный на методе Ньютона-Рафсона, не будет сходиться, мне интересно, что я могу сделать, чтобы ...
Javascript Regex: проверка двойного / плавающего
Вот шаблон, над которым я работаю: var re = /(\d{1,2}\.(?=\d{1,2}))/;Для этого я бы хотел вернуть одно- или двузначное число (которое никогда не будет больше 24, поскольку это приложение для времени mgmt), за которым может или не может стоять ...