Результаты поиска по запросу "floating-point"
Точность умножения на 1,0 и преобразования в целочисленные значения
Можно ли предположить, что условие(int)(i * 1.0f) == i верно для любого целого числаi?
Двойное умножение на 100, а затем приведение к длинному дает неправильное значение
У меня есть следующий код: Double i=17.31; long j=(long) (i*100); System.out.println(j);O / P:1730 //Expected:1731 Double i=17.33; long j=(long) (i*100); System.out.println(j);O / P:1732 //Expected:1733 Double i=17.32; long j=(long) (i*100); ...
Необычный быстрый квадратный корень Джона Кармака (Quake III)
Джон Кармак имеет специальную функцию в исходном коде Quake III, которая вычисляет обратный квадратный корень с плавающей точкой, в 4 раза быстрее, чем обычный(float)(1.0/sqrt(x))в том числе странный0x5f3759df постоянная. Смотрите код ниже. Может ...
Java: Как отсортировать массив с плавающей точкой в обратном порядке?
Я использую следующие строки для сортировки массива с плавающей точкой в обратном порядке, но я получил сообщение об ошибке, что не так? float sortedData[]=new float[100]; ... Arrays.sort(sortedData,Collections.reverseOrder());Ошибка: не могу ...
Точность C ++ с плавающей точкой в циклах while
Я пытаюсь подсчитать количество долларов и монет в общей сумме, используя ряд циклов while. Однако когда я спускаюсь к монетам, мне выпадает копейка. Когда я вхожу, скажем, 99,95, я получаю выходные 3 четверти, 1 цент, 1 никель и 4 копейки. Я ...
В чем разница между float и double?
Я читал о разнице между двойной точностью и одинарной точностью. Однако в большинстве случаевfloat а такжеdouble кажутся взаимозаменяемыми, то есть использование одного или другого, похоже, не влияет на результаты. Это действительно так? Когда ...
Преобразовать переменную с плавающей точкой в целое число?
Сценарий оболочки, показанный ниже, покажет предупреждение, если загрузка страницы занимает более 6 секунд. Проблема в том, чтоmyduration переменная не является целым числом Как я могу преобразовать его в целое число? myduration=$(curl ...
Вещественные числа - как определить, требуется ли число с плавающей запятой или двойное число?
Учитывая реальное значение, можем ли мы проверить, еслиfloat Тип данных достаточно, чтобы сохранить номер, илиdouble требуется? Я знаю, что точность варьируется от архитектуры к архитектуре. Есть ли какая-либо функция C / C ++ для определения ...
Странный результат деления поплавка
Я столкнулся с этой странной ошибкой деления в проекте Grails (но я думаю, что Grails имеет мало общего с этим, я думаю, это отличный вопрос или Java): Если в Groovy консоли я запускаю этот float money = -1.30 float r = 0.01 println ...
Существуют ли беззнаковые эквиваленты инструкций x87 FILD и SSE CVTSI2SD?
Я хочу реализовать эквивалент Cuint-До-double приведен в компиляторе GHC Haskell. Мы уже реализуемint-До-double с помощьюFILD или жеCVTSI2SD, Есть ли неподписанные версии этих операций или я должен обнулить старший битuint перед преобразованием ...