Результаты поиска по запросу "floating-point"
Я не мог генерировать улучшение производительности, используя небезопасный код, но это может быть из-за моей неопытности.
ла я думалMath.Sign было бы правильным путем, но после запуска теста кажется, что он лечит-0.0 а также+0.0 тот же самый.
в этом случае по-прежнему разрешается возвращать наименьшее нормализованное значение вместо исходного значения.
#include <iostream> #include <cmath> #include <sstream> using namespace std; int main(){ stringstream ss; double ad = 7.63918e-313; ss << ad; cout<<ss.str()<<endl; //you will see that the above double is valid, and maps to the specified string ...
Я считаю, что вы правы, чтобы переключать значения с плавающей точкой на целые числа, поэтому я приму ваш совет. Спасибо за быстрый ответ.
му я добавляю и вычитаю числа с плавающей точкой в javascript, и мне нужно знать, как всегда брать потолок любого числа, которое имеет более 3 десятичных знаков. Например: 3.19 = 3.19 3,191 = 3,20 3.00000001 = 3,01
Точечное произведение двух векторов с плавающей запятой одинарной точности дает в ядре CUDA разные результаты, чем на хосте
При отладке некоторого кода CUDA я сравнивал с эквивалентным кодом ЦП, используяprintf заявления, и заметил, что в некоторых случаях мои результаты отличались; они не обязательно были неправильными на обеих платформах, так как они были в пределах ...
Спасибо за приглашение сунуть мою голову между челюстей именно этого льва. Я не уверен, что ни SO, ни Интернет в целом нуждаются в еще одном объяснении того, как арифметика с плавающей точкой отличается от десятичной арифметики, которую большинство из нас изучало в школе. Еще менее уверен, что я человек, чтобы написать это.
аем этос плавающей точкой не работает [https://stackoverflow.com/questions/588004/is-floating-point-math-broken]потому что десятичные числа не всегда могут быть идеально представлены в двоичном виде. Они округлены до числа, котороеМожно быть ...
Разве вы не имели в виду pow (10, place), а не бинарный оператор ^ в 10 ^ месте? 10 ^ 2 на моей машине дает мне 8 !! Тем не менее на моем Mac 10.7.4 и gcc код не работает, возвращая исходное значение.
ужна простая функция округления с плавающей точкой, таким образом: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1я могу найтиceil() а такжеfloor() в математике - но неround(). Он присутствует в стандартной библиотеке C ++ ...
Здорово спасибо, как вернуть? Не могли бы вы поделиться функцией bin_to_float (x), пожалуйста?
аюсь преобразовать число с плавающей запятой в двоичное представление; как я могу этого достичь? Моя цель, однако, не ограничиваться 2 м, поэтому я надеюсь на что-то, что можно легко распространить на любой базовый (3, 4, 8) ecc. У меня есть ...
двойная точность C ++
Я думаю, что точность double вызывает эту проблему, как это было описано в похожих постах, но я хотел бы знать, есть ли способ добиться правильного результата. Я использую шаблон функции, который сравнивает два параметра и возвращает true, если ...
Лучший способ сравнить двойники на равенство / неравенство - взять абсолютное значение их разности и сравнить его с достаточно малым (в зависимости от вашего контекста) значением.
тоящее время я пишу некоторый код, где у меня есть что-то вроде: double a = SomeCalculation1(); double b = SomeCalculation2(); if (a < b) DoSomething2(); else if (a > b) DoSomething3();И тогда в других местах мне может понадобиться сделать ...
Спасибо. Если у вас есть какие-то новые открытия, снова комментируйте, пожалуйста, сделайте так, чтобы кодер знал эту проблему.
aScript каждый знает известный расчет:0.1 + 0.2 = 0.30000000000000004, Но почему JavaScript печатает это значение, а не печатает более точный и точный0.300000000000000044408920985006?