Результаты поиска по запросу "floating-point"

3 ответа

Как контролировать, использует ли математика C SSE2?

Я вступил в сборку трансцендентных математических функций библиотеки C с MSVC в режиме fp: strict. Все они, кажется, следуют той же схеме, здесьс что происхо...

1 ответ

Почему эти два варианта кода дают разные результаты с плавающей точкой?

С учетом этого примера фрагмент кода C ++:

2 ответа

Проверьте два значения типа float / double на точное равенство

Что такое элегантный, читаемый и не многословный способ сравнения двух значений с плавающей запятой для точного равенства?Как бы просто это не звучало, это з...

ТОП публикаций

13 ответов

Каково обоснование для всех сравнений, возвращающих ложь для значений NaN IEEE754?

Почему сравнения значений NaN ведут себя иначе, чем все другие значения? То есть все сравнения с операторами ==, <=,>=, <,> где одно или оба знач...

4 ответа

Как обнаружить переполнение и потерю с плавающей запятой двойной точности?

У меня есть следующие переменные:

4 ответа

Легко ли печатать поплавки в python?

У меня есть список поплавков. Если бы я просто

7 ответов

Как получить знак, мантиссу и показатель числа с плавающей запятой

4 ответа

Как получить единичную матрицу из numpy.dot (A, A_inv)

Я готовлю матрицу случайных чисел, вычисляю ее обратную и матрицу умножаю на исходную матрицу. Это, в теории, дает единичную матрицу. Как я могу позволить

2 ответа

Может ли переменная использоваться в Python для определения десятичных разрядов

я знаком с соглашением об использовании

1 ответ

реализация двойной-двойной устойчивости к режиму округления FPU

Контекст: двойная двойная арифметикаПятислойный» являетсяпредставление чисел в виде суммы двух чисел двойной точности без пересечения в значениях. Это предст...