Результаты поиска по запросу "floating-point"
Lua: преобразование из числа с плавающей точкой в int
Хотя Lua не делает различий между числами с плавающей точкой и целыми числами, в некоторых случаях вы хотите использовать целые числа. Каков наилучший способ преобразовать число в целое число, если вы не можете выполнить приведение типа C или без ...
Что может вызвать детерминированный процесс для генерации ошибок с плавающей точкой
Уже прочитав этовопрос [https://stackoverflow.com/questions/328622/how-deterministic-is-floating-point-inaccuracy] Я достаточно уверен, что данный процесс, использующий арифметику с плавающей запятой с одним и тем же вводом (на том же ...
почему f ставится после значений с плавающей запятой?
Я не знаю, почему f или F ставятся после значений с плавающей запятой в Java или других языках? например, float fVariable = 12.3f;какие-либо функции, кроме указания, что это значение с плавающей точкой?
Всегда ли приведение типа double к float возвращает одно и то же значение?
Ли кастингdouble вfloat всегда дают один и тот же результат, или могут быть некоторые "различия округления"? Например, этоx в float x = (float)0.123456789d;всегда одинаковое значение? Как насчет того, чтобы бросить поплавок в удвоение, а затем ...
Точность в поплавках C
Обычно мы говорим, что число с плавающей точкой имеет точность 6 цифр после десятичной точки. Но если мы храним большое число порядка 10 ^ 30, мы не получим 6 цифр после десятичной точки. Так правильно ли говорить, что числа с плавающей точкой ...
Что происходит, когда вы логически не поплавок?
Я предполагаю, что это просто возвращает int. Что-нибудь еще происходит, о чем я должен знать? С / С ++ отличия? float a = 2.5; !a; // What does this return? Int? Float?
Нормализация звука, как преобразовать массив с плавающей точкой в массив байтов?
Привет всем, я играю аудио файл. Я читаю это какbyte[] а затем мне нужно нормализовать звук, поместив значения в диапазон [-1,1]. Я хочу затем поместить каждое значение с плавающей точкой вbyte[i] массив, а затем положить, чтоbyte[] обратно в ...
двойная двойная точность с плавающей точкой как сумма двух двойных
Следующийдокументы и исходный код для двойной двойной математики [http://en.wikipedia.org/wiki/Quadruple-precision_floating-point_format#Double-double_arithmetic] В течение некоторого времени я все еще не могу выяснить, как именно ...
Почему Math.round (0.49999999999999994) возвращает 1?
В следующей программе вы можете увидеть, что каждое значение немного меньше, чем.5 округляется вниз, кроме0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); ...
Современная x86 модель стоимости
Я пишу JIT-компилятор с бэкэндом x86 и изучаю ассемблер x86 и машинный код на ходу. Я использовал ARM ассемблер около 20 лет назад, и меня удивляет разница в стоимости моделей между этими архитектурами. В частности, доступ к памяти и ответвления ...