Результаты поиска по запросу "floating-point"

2 ответа

Преобразовать число с плавающей точкой в округленный десятичный эквивалент

1 ответ

Точечное произведение двух векторов с плавающей запятой одинарной точности дает в ядре CUDA разные результаты, чем на хосте

При отладке некоторого кода CUDA я сравнивал с эквивалентным кодом ЦП, используя

1 ответ

Почему AWK отказывается подводить итоги

я сталкиваюсь с довольно странной проблемой

ТОП публикаций

2 ответа

Арифметическая ошибка с плавающей точкой

7 ответов

Есть ли в HTML5 тип ввода с плавающей точкой?

3 ответа

Вычитание двух десятичных чисел дает странные выходные данные [дубликаты]

3 ответа

Как Float округляется при преобразовании его в целое число?

3 ответа

C: я получил разные результаты с pow (10,2) и pow (10, j), j = 2;

2 ответа

c # добавление чисел с плавающей точкой ведет себя странно [дубликаты]

На этот вопрос уже есть ответ здесь:Кто-нибудь может объяснить мне эту странность с плавающей точкой? 3 ответаЯ пытаюсь добавить строкуs ячеек и отображать с...

7 ответов

0,1 поплавка больше 0,1 двойного. Я ожидал, что это будет ложным [дубликат]

На этот вопрос уже есть ответ здесь:Если оператор < работает правильно для типов с плавающей точкой, почемумы используем это для проверки равенства? 5 отв...