Результаты поиска по запросу "floating-point"

6 ответов

я есть такие поплавки

4 ответа

Деление с плавающей запятой обеспечивается IEEE754, в котором указано, что деление на ноль должно быть бесконечностью. Нет такого стандарта для целочисленного деления, поэтому они просто следовали стандартным правилам математики.

у C # позволяет:

8 ответов

 верный способ работы с поплавками в PHP!

ТОП публикаций

1 ответ

@ MatíasGiovannini Это переупорядочение приводит к увеличению максимальной ошибки ulp (анекдотически до ~ 1.5 ulp), поэтому реализация больше не будет точно округлена (что было моей целью при разработке). Это может быть приемлемо в некоторых контекстах.

3 ответа

Без использования Number.isInteger ():

7 ответов

floatval

я есть список цен с запятой для десятичной точки и точкой в ​​качестве разделителя тысяч.Некоторые примеры:12,30116,101.563,14Они приходят в этом формате от ...

2 ответа

Для двоичного числа с плавающей запятой IEEE 754 невозможно иметь значение 0,3. Ближайший 64-разрядный двоичный код с плавающей запятой - 0,299999999999999988897769753748434595763683319091796875.

аюсь решить некоторые проблемы с плавающей точкой в ​​моем коде в Python 2.7.10. При тестировании я столкнулся со странным поведением с

2 ответа

@sascha Относительно второго вопроса: относительная ошибка, то есть (правильная - приблизительная) / правильная, должна быть в этом диапазоне. Для вашего примера, относительная ошибка 6,8533701764037842e-17.

отаю над портированием

1 ответ

Это объяснение имеет такой большой смысл, особенно часть о распределении 2 ^ 32 значений.

ге С языка программирования C Денниса Ритчи упоминается, что «число с плавающей запятой, как правило, представляет собой 32-разрядную величину, по крайней ме...

2 ответа

Этот метод, конечно, будет производить вывод, специфичный для порядка следования байтов вашей машины.

аюсь извлечь биты из числа с плавающей точкой, не вызывая неопределенного поведения. Вот моя первая попытка: