Результаты поиска по запросу "floating-point"
Как проверить бесконечные и неопределенные значения в C ++?
В моих программах бесконечность обычно возникает, когда значение делится на ноль. Я получаю неопределенность, когда делю ноль на ноль. Как проверить бесконеч...
Как эффективно выполнять двойные / int64 преобразования с SSE / AVX?
В SSE2 есть инструкции для преобразования векторов между числами с плавающей точкой одинарной точности и 32-разрядными целыми числами.
Добавление наименьшего возможного поплавка к поплавку
Я хочу добавить наименьшее возможное значение с плавающей точкой. Так, например, я попытался сделать это, чтобы получить 1.0 + наименьшее возможное число с п...
Почему Perl несовместим с округлением спринта?
Вот скрипт на Perl:
Могу ли я использовать AVX FMA для точного 52-битного умножения?
AXV2 не имеет целочисленных умножений с источниками больше 32-битных. Это действительно предлагает32 х 32 -> 32 умножается, а также32 х 32 -> 64 умножа...
Хранение целых как поплавков
Предположим, у меня есть API, который позволяет мне хранить только числа с плавающей точкой или массивы с плавающей точкой. Тем не менее, я хотел бы хранить ...
Безопасно ли сравнивать float и int в Java?
Безопасно ли сравнивать с плавающей точкой и целым числом, как это?
условие оценивается как
ение одинаковых значений с плавающей точкой в Cстранный вывод по сравнению с float с литералом floatПоплавок дополнения повышен в два раза?Я прочитал вышеу...
Я верю этому результату, но все же нахожу его чрезвычайно удивительным.
твует ли двойной стандарт IEEE?