Результаты поиска по запросу "floating-point"

3 ответа

SQL Server 2005 числовая потеря точности

Отладка некоторого связанного с финансами кода SQL обнаружила странную проблему с математической точностью (24,8).Запустив следующий запрос на вашем MSSQL, в...

13 ответов

Как я могу заставить деление быть плавающей точкой? Деление продолжает округляться до 0?

13 ответов

Как использовать деление с плавающей точкой в Bash?

ТОП публикаций

2 ответа

Кортекс руки A9 кросс-компиляция странное поведение с плавающей точкой

Я пытаюсь портировать более крупное приложение с x86 на кронштейн a9, но яя получаю странные ошибки сегментации с функциями с плавающей запятой, такими как m...

4 ответа

Количество значащих цифр для типа с плавающей точкой

Описание для типа

2 ответа

Почему printf печатает случайное значение с указателем формата с плавающей запятой и целочисленным форматом

Я написал простой код на 64-битной машине

2 ответа

Сумма с плавающей точкой не является точной [закрыто]

Рассмотрим следующую программу на C ++:

6 ответов

Как конвертировать float в int с помощью Java

Я использовал следующую строку для преобразования float в int, ноне так точно, как ямне нравится:

2 ответа

У моего числа с плавающей точкой есть дополнительные цифры, когда я его печатаю

Я определяю число с плавающей запятой как

4 ответа

Запретить округление в String.format («%. 2f», doubleValue) в Java

Как я могу предотвратить