Результаты поиска по запросу "floating-point"
Преобразовать число с плавающей запятой с определенной точностью, а затем скопировать в строку
У меня есть число с плавающей запятой, скажем135.12345678910, Я хочу объединить это значение в строку, но хочу только135.123456789, С печатью я могу легко сделать это, сделав что-то вроде: print "%.9f" % numvarс участиемnumvar быть моим ...
В двоичной записи, что означает значение цифр после радикальной точки «.»?
У меня есть этот пример о том, как преобразовать из числа 10 базы в представление IEEE 754 с плавающей точкой Number: 45.25 (base 10) = 101101.01 (base 2) Sign: 0 Normalized form N = 1.0110101 * 2^5 Exponent esp = 5 E = 5 + 127 = 132 (base 10) = ...
грех, кос, загар и ошибка округления
Я делаю некоторые вычисления тригонометрии в C / C ++ и сталкиваюсь с проблемами с ошибками округления. Например, в моей системе Linux: #include <stdio.h> #include <math.h> int main(int argc, char *argv[]) { printf("%e\n", sin(M_PI)); return 0; ...
Почему скаляр SSE sqrt (x) медленнее, чем rsqrt (x) * x?
Я профилировал некоторые наши основные математические расчеты на Intel Core Duo, и, глядя на различные подходы к квадратному корню, я заметил кое-что странное: используя скалярные операции SSE, быстрее получить взаимный квадратный корень ...
Сравнение значений с плавающей запятой
Я только что прочитал заявление о сравнении значений с плавающей запятой Значения с плавающей точкой не должны сравниваться с использованием операторов == или! =. Большинство значений с плавающей запятой не имеют точного двоичного представления ...
Как контролировать, использует ли математика C SSE2?
Я вступил в сборку трансцендентных математических функций библиотеки C с MSVC в режиме fp: strict. Кажется, что все они следуют одной и той же схеме, вот что происходит дляsin. Сначала идет процедура отправки из файла с именем ...
Почему эти два варианта кода дают разные результаты с плавающей точкой?
Учитывая этот пример фрагмента кода C ++: void floatSurprise() { // these come from some sort of calculation int a = 18680, b = 3323524, c = 121; float m = float(a) / c; // variant 1: calculate result from single expression float r1 = b - (2.0f ...
SSE регистрация возврата с отключенным SSE
Я нахожусь в следующей ситуации: Я пишу код для ядра, которое не позволяет инструкции SSEМне нужно сделать арифметику с плавающей точкойЯ компилирую для платформы x86_64Вот пример кода, который иллюстрирует проблему: int main(int argc, char** ...
Проверьте два значения типа float / double на точное равенство
Что такое элегантный, читаемый и не многословный способ сравнения двух значений с плавающей запятой для точного равенства? Как бы просто это не звучало, это злая проблема.== оператор не выполняет работу для NaN, а также имеет специальный режим ...
Каково обоснование для всех сравнений, возвращающих ложь для значений NaN IEEE754?
Почему сравнения значений NaN ведут себя иначе, чем все другие значения? То есть все сравнения с операторами ==, <=,> =, <,> где одним или обоими значениями является NaN, возвращают false, что противоречит поведению всех других значений. Я ...