Результаты поиска по запросу "floating-point"
Это было бы верно, если бы не был задействован указатель.
е ли вы объяснить поведение этой программы? int main() { float a = 12.5; printf("%d\n", a); printf("%d\n", *(int *)&a); return 0; }Можете ли вы проверить код наhttp://codepad.org/AQRlAzkC [http://codepad.org/AQRlAzkC] почему этот вывод идет ..
Почему число делится на ноль бесконечности в Java?
Почему следующий код в Java System.out.println(new Integer(1)/ new Double(0));выведите «Infinity» и не определите. Разве это не математически неправильно?
10,22 (до двух десятичных знаков)
оложим, у меня есть8.8333333333333339и я хочу преобразовать его в8.84, Как я могу сделать это в Python? round(8.8333333333333339, 2) дает8.83 и нет8.84, Я новичок в Python или программирования в целом. Я не хочу печатать это как строку, и ...
наибольшее целое число, которое может быть сохранено в двойном
Какое наибольшее целое число без плавающих может быть сохранено в двойном типе IEEE 754 без потери точности?
home.wordpress.com/2013/07/31/float-and-double-13-23-0-99999999
ы лучшие практики передачи долларовых сумм в JSON? Передача сумм в виде строк или чисел? или другой? Мы немного обеспокоены ошибками округления, отображаемыми на клиенте (iOS / Android / Web), или возможными другими значениями, отображаемыми на ...
, Это то, что вы видите.
я есть поплавок с очень важным значением, которое должно быть ОЧЕНЬ точным. Проблема в том, что я изменяю значение с плавающей точкой ВСЕГДА только + и - (здесь нет деления). После изменения значения примерно в 20 раз значение не равно 0,05, ...
Просто потому, что там больше данных - что быстрее заполняет кеш процессора, как указано в посте, который вы связали.
ользую поплавки для этих операций: Какой из этих двух является более точным? (а * б) / сили же (а / с) * бЭто имеет значение или зависит от ситуации? Если да, то что мне выбрать в каких случаях?
http://www.cplusplus.com/reference/iostream/ios_base/precision/
аписании функции, которая будет выполнять некоторые операции с каждым числом в диапазоне, я столкнулся с некоторыми проблемами с неточностями с плавающей запятой. Проблема может быть замечена в коде ниже: #include <iostream> using namespace std; ...
Вот моя интерпретация решения округления двойного к целому. Это, конечно, не является стандартом для C, но обеспечивает функциональность округления двойного до ближайшего целого числа.
иваемый C, который я использую, не имеет функции round (), если это математическая библиотека, что было бы кратким способом реализовать это в C? Я думал о том, чтобы напечатать его в строку, найти десятичный знак, затем найти первый символ после ...
плавать обычно быстрее. двойной предлагает большую точность. Однако производительность может отличаться в некоторых случаях, если используются специальные расширения процессора, такие как 3dNow или SSE.
от вопрос уже есть ответ здесь: Использование double быстрее, чем float? [/questions/3426165/is-using-double-faster-than-float] 7 ответовЯ читаю "Ускоренный C ++". Я нашел одно предложение, в котором говорится "иногдаdouble быстрее в исполнении, ...