Результаты поиска по запросу "floating-point"

4 ответа

Как распечатать значение с плавающей точкой из двоичного файла в оболочке?

3 ответа

Арифметическая точность с двойными числами в Matlab

4 ответа

В Python небольшие поплавки стремятся к нулю

У меня есть байесовский классификатор, запрограммированный на Python, проблема в том, что когда я умножаю вероятности функций, я получаю ОЧЕНЬ маленькие знач...

ТОП публикаций

1 ответ

Как мне округлить это двоичное число до ближайшего четного

У меня есть это двоичное представление

3 ответа

Каков наилучший способ представления System.Decimal в буферах протокола?

Исходя изэтот Вопрос, как лучше всего представить объект System.Decimal в буфере протокола?

6 ответов

Большие числа, ошибочно округленные в JavaScript

2 ответа

Преобразование IEEE 754 из потока битов в float в JavaScript

2 ответа

Какова точность вычислений с плавающей точкой в ​​Scilab?

Примечание. Я использовал тег Matlab только на тот случай, если они поддерживают одинаковую точность. (Из того, что я могу сказать, обе программы очень похож...

2 ответа

Какое первое целое число, которое IEEE 754 не может точно представить?

2 ответа

Почему «бесконечность» не допускается в поплавках Эрланга?