Результаты поиска по запросу "floating-point"
Используйте эту функцию
вертирую double в float, используя старыеfloat myFloat = (float)myDouble. Однако иногда это приводит к «Бесконечности», что не подходит для дальнейшей обработки, которую я делаю. Я согласен с потерей, если он указывает в общем направлении, как ...
правда, но опять же вы сталкиваетесь с такими проблемами, когда имеете дело с плавающей точкой. Но в моем случае я могу указать разумный эпсилон. К счастью, я не хочу реализовывать контейнер с произвольным интервалом точности :-) Как вы заметили, тогда все станет сложнее.
ющий код должен найти ключ3.0вstd::map который существует. Но из-за точности с плавающей запятой это не будет найдено. map<double, double> mymap; mymap[3.0] = 1.0; double t = 0.0; for(int i = 0; i < 31; i++) { t += 0.1; bool contains = ...
0,1 поплавка больше 0,1 двойного. Я ожидал, что это будет ложным [дубликат]
На этот вопрос уже есть ответ здесь: Если оператор <работает правильно для типов с плавающей точкой, почему мы не можем использовать его для проверки на ...
Почему изменение порядка сумм возвращает другой результат?
Почему изменение порядка сумм возвращает другой результат? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 ОбеЯва [http://en.wikipedia.org/wiki/Java_%28programming_language%29]а также JavaScript ...
Кстати: в компьютерах очень больно, когда 2.0 - 1.0 может дать 0.999999999999, который не равен 1.0 :). На это можно особенно легко натолкнуться при проверке формы javascript.
у примитивное значение с плавающей запятой может быть -0,0? Что это обозначает? Могу ли я отменить эту функцию? Когда у меня есть: float fl;затемfl == -0.0 возвращаетсяtrue и так жеfl == 0, Но когда я печатаю его, он печатает-0.0.
@ Джо - хм, это очень странно. Я быстро бросил свой ответ. Дайте мне пару минут, и я заново отредактирую свой ответ на тот, который я протестировал, используя вашу строку ввода из вашего вопроса.
я есть большая строка, которая имеет ряд с плавающей точкой в строке. Типичная строка будет иметьItem X $4.50 Description of item \r\n\r\n Item Z $4.75... Там действительно нет рифмы или причины для текста. У меня уже есть самое низкое, и мне ...
Если есть еще, вы можете зациклить с чем-то вроде
я есть следующие два возможных содержимого строки. Очевидно, что суммы всегда меняются, и я хотел бы извлечь ключевую информацию и Case 0: pricesString = "" Case 1: pricesString = "$0.023" Case 2: pricesString = "10+: $1.46 100+: $0.16 500+: ...
следует считать предпочтительным. Возможно, все тесты на эквивалентность должны выполняться с помощью функции, которая фактически проверяет эквивалентность (например, путем сравнения побитовых форм).
умент проверки кода, который я использую, жалуется на приведенное ниже, когда я начинаю сравнивать два значения с плавающей запятой, используя оператор равенства. Как правильно и как это сделать? Есть ли вспомогательная функция (commons- *), ...
Matlab использует математику с плавающей точкой с точностью до 16 цифр (отображается только 5).
у программу, в которой мне нужно удалить дублирующиеся точки, хранящиеся в матрице. Проблема состоит в том, что когда дело доходит до проверки, находятся ли эти точки в матрице, MATLAB не может распознать их в матрице, хотя они существуют. В ...
Ответ только для ссылок.
аиболее эффективно изменить режим округления * для чисел с плавающей запятой IEEE 754? Переносная функция C была бы хороша, но решение, которое использует сборку x86, тоже подойдет. * Я имею в виду стандартные режимы округления до ближайшего, до ...