Результаты поиска по запросу "ieee-754"

3 ответа

Каковы другие значения NaN?

документация дляjava.lang.Double.NaN [https://docs.oracle.com/javase/8/docs/api/java/lang/Double.html#NaN]говорит, что это Константа, содержащая значение типа Not-a-Number (NaN) типаdouble, Это эквивалентно ...

3 ответа

Что такое субнормальное число с плавающей точкой?

ссылка isnormal () [http://en.cppreference.com/w/cpp/numeric/math/isnormal] говорит: Определяет, является ли данное число с плавающей точкой arg нормальным, то есть не является ли оно нулевым, субнормальным, бесконечным или NaN. Число ноль, ...

1 ответ

Как вычесть IEEE 754 номера?

Как вычесть числа IEEE 754? Например: 0,546875 - 32,875 ... -> 0,546875 - это 0 01111110 10001100000000000000000 в IEEE-754 -> -32,875 - 1 10000111 01000101111000000000000 в IEEE-754 Итак, как мне сделать вычитание? Я знаю, что должен сделать ...

ТОП публикаций

8 ответов

Извлечение показателя степени и мантиссы числа Javascript

Есть ли достаточно быстрый способ извлечь показатель степени и мантиссу из числа в Javascript? AFAIK, нет никакого способа добраться до битов за числом в Javascript, что заставляет меня думать, что я смотрю на проблему факторизации: поискm а ...

1 ответ

Причудливость в JavaScript или IEEE-754?

Я столкнулся с любопытной проблемой в одном из моих модульных тестов, где я получаю неожиданные результаты округления в JavaScript: (2.005).toFixed(2) // produces "2.00" (2.00501).toFixed(2) // produces "2.01" Первоначально я подозревал, что это ...

2 ответа

Свойства 80-битных вычислений с расширенной точностью, начиная с аргументов двойной точности

Вот две реализации интерполяционных функций. аргументацияu1 всегда между0. а также1.. #include <stdio.h> double interpol_64(double u1, double u2, double u3) { return u2 * (1.0 - u1) + u1 * u3; } double interpol_80(double u1, double u2, double ...

3 ответа

Пересмотрено сравнение с плавающей точкой

Эта тема много раз поднималась в StackOverflow, но я считаю, что это новый подход. Да я прочиталСтатьи Брюса Доусона [http://www.cygnus-software.com/papers/comparingfloats/comparingfloats.htm]а такжеЧто каждый ученый должен знать об арифметике с ...

5 ответов

Почему числа с плавающей запятой печатаются так по-разному?

Общеизвестно, что (большинство) чисел с плавающей запятой не сохраняются точно (при использовании формата IEEE-754). Так что не стоит этого делать: 0.3 - 0.2 === 0.1; // very wrong... как это приведет кfalse, если не был использован какой-либо ...

2 ответа

Lua - упаковка чисел с плавающей точкой одинарной точности IEEE754

Я хочу сделать функцию в чистом Lua, которая генерируетдробная часть(23 бита), показатель степени(8 бит) иподписать(1 бит) от числа, так что число приблизительно равноmath.ldexp(fraction, exponent - 127) * (sign == 1 and -1 or 1), а затем ...

4 ответа

Почему деление на ноль в стандарте IEEE754 приводит к бесконечному значению?

Мне просто любопытно, почему вIEEE-754 любое ненулевое число с плавающей точкой, деленное на ноль, приводит к бесконечному значению? Это чепуха с математической точки зрения. Поэтому я считаю, что правильным результатом этой операции является ...