Результаты поиска по запросу "floating-point"
Компиляция * .vhdl в библиотеку с использованием Altera Quartus II
Я пытаюсь использовать пакет с плавающей запятой и пакет с фиксированной запятой как часть моей конструкции фильтра в VHDL. Я использую Altera Quartus II в качестве среды разработки. Я скачал пакет файлов с сайта: http://www.vhdl.org/fphdl/ ...
Вы выполняете вычисления на целых числах и присваиваете результат с плавающей точкой. Таким образом, компилятор неявно преобразует ваш целочисленный результат в число с плавающей точкой
у m всегда = 0? X и y члены someClass являются целыми числами. float getSlope(someClass a, someClass b) { float m = (a.y - b.y) / (a.x - b.x); cout << " m = " << m << "\n"; return m; }
Пока вы не работаете с float, у которых есть размер по умолчанию.
у вас есть плавающий в MSSQLServer, что вы сопоставляете это в .NET? Можете ли вы преобразовать его в Double или вы потеряете числа?
stackoverflow.com/questions/48591596/...
м недавно, GCC 4.6.0 вышел вместе сlibquadmath [http://gcc.gnu.org/onlinedocs/libquadmath/], К сожалению, GNU поддерживает Fortran, но не C или C ++ (все, что включено, - .so). Я не нашел способа использовать эти новые функции в C ++, однако, GNU ...
Если вам нужно также указать значение:
я есть ценность25.00 вfloat, но когда я печатаю это на экране это25.0000000. Как я могу отобразить значение только с двумя десятичными знаками?
Вот
могу реализовать четырехкратную точность (128-битную арифметику) в MATLAB при решении задачи о собственных значениях матрицы? Я пытаюсь решить задачу анализа линейной устойчивости для несжимаемого плоского потока Куэтта, и 64-битной точности по ...
Реализация деления с одинарной точностью как умножение с двойной точностью
ВопросДля компилятора C99, реализующего точную арифметику IEEE 754, сделайте значенияf, divisor типаfloat существуют такие, чтоf / divisor != (float)(f * (1.0 / divisor))? РЕДАКТИРОВАТЬ: Под «реализацией точной арифметики IEEE 754» я ...
Преобразование Int в Float или Float в Int с использованием побитовых операций (программная плавающая точка)
Мне было интересно, если вы могли бы помочь объяснить процесс преобразования целого числа в число с плавающей точкой или с плавающей точкой в целое число. Для моего класса мы должны сделать это, используя только побитовые операторы, но я думаю, ...
Для хранения статистических данных мне нужны DECIMAL, FLOAT или DOUBLE?
Я занимаюсь творчеством, но все же хочу серьезно подойти к этому сайту, на котором проводятся различные тесты. С помощью этих тестов я надеюсь собрать статистические данные. Некоторые данные будут включать процент полноты тестов, как они ...
-m @
alert(Math.cos(Math.PI/2)); у результат не точный ноль? Это неточность или какая-то ошибка в реализации?