Результаты поиска по запросу "ieee-754"

1 ответ

Причудливость в JavaScript или IEEE-754?

2 ответа

Свойства 80-битных вычислений с расширенной точностью, начиная с аргументов двойной точности

6 ответов

Большие числа, ошибочно округленные в JavaScript

Смотрите этот код:

ТОП публикаций

3 ответа

Пересмотрено сравнение с плавающей точкой

Эта тема много раз поднималась в StackOverflow, но я считаю, что это новый подход. Да я прочиталБрюс Доусонстатьи а такжеЧто каждый ученый должен знать об ар...

5 ответов

Почему числа с плавающей запятой печатаются так по-разному?

2 ответа

Lua - упаковка чисел с плавающей точкой одинарной точности IEEE754

Я хочу сделать функцию в чистом Lua, которая генерируетдоля (23 бита),показатель степени (8 бит) изнак (1 бит) от числа, так что число приблизительно равно

2 ответа

Принуждение с плавающей точкой быть детерминированным в .NET?

Мы много читали о детерминизме с плавающей точкой в .NET, то есть о том, что один и тот же код с одинаковыми входными данными будет давать одинаковые результ...

1 ответ

Денормализованные числа - IEEE 754 с плавающей точкой

Так что я'я пытаюсь узнать больше о денормализованных числах, как это определено в стандарте IEEE 754 для чисел с плавающей точкой. Я'Я уже прочитал ...

3 ответа

Что такое long double на x86-64?

2 ответа

Получить следующий наименьший двухместный номер

В рамках модульного теста мне нужно проверить некоторые граничные условия. Один метод принимает