Результаты поиска по запросу "floating-point"
Альтернативы для инициализации с плавающей точкой во время компиляции
В настоящее время я работаю над реализацией арифметики с плавающей запятой на основе шаблонного метапрограммирования. Шаблон, представляющий значения с плава...
Установите точность и обнуляйте концевые нули, но никогда не печатайте экспоненту
Мне необходимо:Установите точность так, чтобы числа с плавающей точкой были округлены до сотых долей (0,111 отпечатков как 0,11)Клип завершающие нули (1,0 от...
Math.pow дает разные результаты в зависимости от версии Java
Я использую следующий код на JDK версии 1.7.0_60:
Как проверить, находится ли значение с плавающей запятой в определенном диапазоне и имеет заданное количество десятичных цифр?
Как проверить, находится ли значение с плавающей запятой в диапазоне (0.50,150.00) и имеет 2 десятичных знака?Например, 15.22366 должно быть ложным (слишком ...
Плавающая точка против целочисленных вычислений на современном оборудовании
Я делаю некоторую критичную для производительности работу в C ++, и в настоящее время мы используем целочисленные вычисления для задач, которые по своей прир...
Каковы все возможные вычисления, которые могут вызвать NaN в Python? [закрыто]
Я искал вокруг, и там, кажется, разбросаны дискуссии о
как числа с плавающей точкой хранятся в памяти [закрыто]
поскольку компьютер понимает только 0 и 1 снизу, как числа с плавающей запятой, такие как 12.1234, представляются в памяти в виде набора из 0 и 1,сохраняется...
Как читать по одному символу за раз из файла в python?
Я хочу прочитать список чисел из файла как символы по одному символу за раз, чтобы проверить, что это за символ, будь то цифра, точка, + или -, e или E или к...
Почему результат деления зависит от типа актера? (Следовать за)
Это продолжение этого вопроса:Почему результат деления зависит от типа актера?Краткое резюме: