Результаты поиска по запросу "floating-point"

4 ответа

переменная типа float не соответствует условиям (C)

m пытается заставить пользователя ввести число от 1.00000 до 0.00001, в то время как ребра не включены в переменную типа float. Я могу предположить, что поль...

5 ответов

Вывести различную точность по столбцам с помощью pandas.DataFrame.to_csv ()?

ВопросМожно ли указать точность с плавающей точкой специально для каждого столбца, который будет напечатан Python?

2 ответа

Python плавать в соотношении

Я пытаюсь получить соотношение переменной и получить неожиданный результат. Может кто-нибудь объяснить это?

ТОП публикаций

6 ответов

двойная точность C ++

Я думаю, что точность double вызывает эту проблему, как это было описано в похожих постах, но я хотел бы знать, есть ли способ добиться правильного результат...

1 ответ

Есть ли в Javascript ограничение на количество знаков после запятой в больших числах?

m сталкивается со следующей проблемой / поведением:

2 ответа

Как я могу преобразовать строку в float с помощью Perl?

Есть ли такая функция, как

3 ответа

Преобразование Int в Float или Float в Int с использованием побитовых операций (программная плавающая точка)

3 ответа

Преобразование float в int (float2int) с использованием только побитовой манипуляции

Мне интересно, может ли кто-нибудь направить меня в правильном направлении с проблемой, над которой я работаю. Я пытаюсь сделать то, что делает следующая фун...

7 ответов

Числа с плавающей точкой

2 ответа

Время выполнения с плавающей запятой

Чем объясняется добавленное время выполнения первого набора данных? Инструкции по сборке одинаковы.Если флаг DN_FLUSH не включен, первый набор данных занимае...