Результаты поиска по запросу "floating-point"
Спасибо за ваш ответ. К сожалению, мне было интересно что-то, что делает это за один выстрел, а не за один номер. В любом случае, по моему мнению, отрицательные голоса немного несправедливы.
аюсь установить питонаjson библиотека для сохранения в файл словаря, содержащего в качестве элементов другие словари. Есть много чисел с плавающей точкой, и я хотел бы ограничить количество цифр, например, 7. По другим постам в ...
О сравнении целого числа и числа с плавающей запятой в C / C ++
У меня есть следующий кусок кода (не стесняйтесь менять с плавающей точкой с двойной):
Почему бесконечности с плавающей точкой, в отличие от NaN, равны?
Почему бесконечное сравнение не следует логике, применяемой к NaNs? Этот код распечатывает
двойная точность C ++
Я думаю, что точность double вызывает эту проблему, как это было описано в похожих постах, но я хотел бы знать, есть ли способ добиться правильного результат...
Это дает 0100 0000 1010 0110 0110 0110 1000 0001 (1084647041)
урок, я наткнулся на то, как изобразить число с плавающей запятой в памяти. В учебнике был пример с числом с плавающей запятой. float a=5.2 with below Diagram Кто-нибудь может рассказать, как этот 5.2 преобразуется в двоичный файл и как ...
Почему плавающий расчет и приведение к разным результатам в конфигурации отладки и выпуска показывают разные результаты?
Это действительно странная ошибка для меня, и мне потребовалось много времени, чтобы понять, что происходит. Чтобы упростить вещи и воспроизвести, просто создайте пустое консольное приложение win32 с использованием VS2005 и используйте этот код в ...
@ Джо - хм, это очень странно. Я быстро бросил свой ответ. Дайте мне пару минут, и я заново отредактирую свой ответ на тот, который я протестировал, используя вашу строку ввода из вашего вопроса.
я есть большая строка, которая имеет ряд с плавающей точкой в строке. Типичная строка будет иметьItem X $4.50 Description of item \r\n\r\n Item Z $4.75... Там действительно нет рифмы или причины для текста. У меня уже есть самое низкое, и мне ...