Результаты поиска по запросу "floating-point"

3 ответа

Python: конвертировать строку (в научной нотации) в float

Я пытаюсь импортировать большой файл .csv, содержащий текст и цифры, используя genfromtxt в numpy. Меня интересуют только две колонки. У меня большая часть и...

3 ответа

Почему основанная на таблицах литература по приближению к греху всегда использует эту формулу, когда другая формула, кажется, имеет больше смысла?

8 ответов

Можете ли вы сравнить значения с плавающей запятой точно до нуля?

Я знаю, что мы не можем сравнивать 2 значения с плавающей запятой, используя ==. Мы можем только сравнить, что они находятся в некотором интервале друг от др...

ТОП публикаций

4 ответа

Функция Variadic (va_arg) не работает с float, а printf работает? Какая разница?

У меня просто случилась похожая ситуация, как в этом вопросе из двух лет:Функция Variadic (va_arg) не работает с плавающей точкой?Там сказано, что проблема в...

5 ответов

Лучшая практика для сравнения поплавков в Matlab

Очевидно, что сравнение с плавающей запятой всегда сложно. В моем (научном) коде я много проверяю утверждения, поэтому очень часто мне приходится проверять р...

10 ответов

«F» после числа / с плавающей точкой в ​​Objective-C / C

2 ответа

Почему скорость этого решателя SOR зависит от входа?

3 ответа

Как разделить число с плавающей точкой на целую и дробную части?

Я готов приводить точные операции, и для этого мне нужен способ разделить число с плавающей запятой на целое и дробную часть. Есть ли способ для этого?

3 ответа

Как преобразовать десятичное число в формат с плавающей точкой одинарной точности IEEE 754?

Как мне перейти к ручному изменению десятичного числа (основание 10) на формат с плавающей точкой одинарной точности IEEE 754? Я понимаю, что в этом есть три...

1 ответ

Не удалось найти перегрузку для '*', которая принимает указанный аргумент

Я преобразовал