Результаты поиска по запросу "floating-point"
Достаточно ли указать тип с плавающей точкой, чтобы гарантировать такие же результаты?
Я пишу спецификацию, которая описывает некоторую арифметику, которая будет выполняться программным обеспечением. Предполагается, что я могу передать эту спецификацию двум разным программистам (которые используют потенциально разные языки и / или ...
Спецификатор ширины Printf для поддержания точности значения с плавающей точкой
Есть лиprintf спецификатор ширины, который может быть применен к спецификатору с плавающей запятой, который автоматически форматирует выходные данные до необходимого числазначащие цифры так что при сканировании строки обратно, получается ...
Драйвер Microsoft ACE изменяет точность с плавающей запятой в остальной части моей программы
У меня возникла проблема, когда кажется, что результаты некоторых вычислений меняются после использованияMicrosoft ACE драйвер [http://www.microsoft.com/en-us/download/details.aspx?id=13255]открыть электронную таблицу Excel. Код ниже ...
Функция ParseFloat в JavaScript
Когда я добавляю два значения текстового поля, которые1,001а также0,001а потом я делаюparseFloat я получил1,0019999999, Я хочу это1,002, Можешь мне помочь?
Не получить точные данные при обращении БПФ
Хорошо, то, что я пытаюсь достичь, просто. Примените БПФ к некоторым случайным данным, а затем примените обратный алгоритм к выходным данным, чтобы вернуть входные данные. я используюkissFFT библиотека для этого. Код: const int fft_siz = 512; ...
Ошибка PHP-вычисления при вычитании
У меня очень странная проблема. Если я вычту 2 числа с плавающей запятой, где один является результатом математической операции, я получу неправильное значение. Пример: var_dump($remaining); var_dump($this->hours_sub['personal']); ...
Что происходит, когда переменная с плавающей точкой выходит за пределы?
Я заметил две вещи: std::numeric_limits<float>::max()+(a small number) дает: std::numeric_limits<float>::max(). std::numeric_limits<float>::max()+(a large number любить:std::numeric_limits<float>::max()/3) даетинф. Почему эта разница? 1 или 2 ...
Округление плавает так, чтобы они суммировали точно до 1
У меня есть довольно грубый код, который должен более или менее случайным образом генерировать кучу процентов, хранящихся в виде десятичных чисел с плавающей запятой. То есть он решает, что один материал составляет 13,307 процента от общего ...
Как выполнить побитовую операцию над числами с плавающей запятой
Я попробовал это: float a = 1.4123; a = a & (1 << 3);Я получаю сообщение об ошибке компилятора о том, что операнд& не может быть типа с плавающей точкой. Когда я делаю: float a = 1.4123; a = (int)a & (1 << 3);Я запускаю программу. ...
Почему вы используете float over double или double вместо long double?
Я все еще новичок в программировании, и у меня всегда есть больше вопросов, чем могут найти наши книги или интернет-поиски (если я что-то пропустил). Поэтому я заранее прошу прощения, если на этот вопрос ответили, но я не смог его найти. Я ...