Результаты поиска по запросу "floating-point"
Плавающая / двойная точность в режимах отладки / выпуска
Различаются ли операции с плавающей запятой в C # / .NET по точности в режиме отладки и в режиме выпуска?
Преобразование поплавка в двойное без потери точности
У меня примитивный поплавок и мне нужен как примитивный дубль. Простое приведение поплавка к двойному дает мне странную дополнительную точность. Например: float temp = 14009.35F; System.out.println(Float.toString(temp)); // Prints 14009.35 ...
Почему плавающий расчет и приведение к разным результатам в конфигурации отладки и выпуска показывают разные результаты?
Это действительно странная ошибка для меня, и мне потребовалось много времени, чтобы понять, что происходит. Чтобы упростить вещи и воспроизвести, просто создайте пустое консольное приложение win32 с использованием VS2005 и используйте этот код в ...
Как использовать десятичную (с плавающей точкой) в C ++?
Согласно сIEEE 754-2008 [http://en.wikipedia.org/wiki/IEEE_754-2008]есть Существует три двоичных базовых формата с плавающей запятой (которые можно кодировать с использованием 32, 64 или 128 бит) и два десятичных базовых формата с плавающей ...
Печать с плавающей точкой с определенным количеством нулей
Я знаю, как контролировать количество десятичных знаков, но как мне конкретно контролировать количество нулей? Например: 104.06250000 -> 104.0625 119.00000 -> 119.0 72.000000 -> 72.0
Похоже, что Pow () один из здесь
Что тут происходит: #include <stdio.h> #include <math.h> int main(void) { printf("17^12 = %lf\n", pow(17, 12)); printf("17^13 = %lf\n", pow(17, 13)); printf("17^14 = %lf\n", pow(17, 14)); }Я получаю этот вывод: 17^12 = 582622237229761.000000 ...
Почему printf печатает случайное значение с указателем формата с плавающей точкой и целочисленным форматом
Я написал простой код на 64-битной машине int main() { printf("%d", 2.443); }Итак, так будет вести себя компилятор. Второй аргумент будет идентифицирован как двойной, поэтому он будет помещать 8 байтов в стек или, возможно, просто использовать ...
Сумма с плавающей точкой не является точной [закрыто]
Рассмотрим следующую программу на C ++: #include <iostream> using std::cout; using std::endl; int main () { float x = 0.0001; float y = 0; for (int i=0; i < 10000; i++) { y += x; } cout << y << endl; return 0; }Скомпилируйте и запустите эту ...
Как конвертировать float в int с помощью Java
Я использовал следующую строку для преобразования float в int, но это не так точно, как хотелось бы: float a=8.61f; int b; b=(int)a;Результат:8 (Так должно быть9) когдаa = -7.65fрезультат:-7 (Так должно быть-8) Какой лучший способ сделать это?
У моего числа с плавающей точкой есть дополнительные цифры, когда я его печатаю
Я определяю число с плавающей запятой какfloat transparency = 0.85f; И в следующей строке я передаю это функции -fcn_name(transparency) - но оказывается, что переменнаяtransparency имеет значение0.850000002и когда я печатаю его с настройками по ...