Результаты поиска по запросу "floating-point"
Как преобразовать или преобразовать число с плавающей точкой в его битовую последовательность, такую как long
Добрый день, я работаю в 16-битной среде C и хочу преобразовать значение с плавающей запятой в его битовую последовательность, такую как целочисленное значение. Есть несколько способов, которыми я знаю, как этого добиться, один из них с помощью ...
Работа с плавающей точностью в Javascript [дубликаты]
На этот вопрос уже есть ответ: Как справиться с точностью чисел с плавающей точкой в JavaScript? [/questions/1458633/how-to-deal-with-floating-point-number-precision-in-javascript] 34 ответа У меня большое количество числовых значенийy в ...
Самый быстрый способ сделать горизонтальную векторную сумму с плавающей точкой на x86
У тебя есть вектор из трех (или четырех) поплавков. Какой самый быстрый способ их сложить? SSE (movaps, shuffle, add, movd) всегда быстрее, чем x87? Стоят ли инструкции горизонтального добавления в SSE4.2? Сколько стоит перейти на FPU, затем ...
Деление с плавающей точкой против умножения с плавающей точкой
Есть ли (не микрооптимизация) прирост производительности при кодировании float f1 = 200f / 2 в сравнении с float f2 = 200f * 0.5 Мой профессор несколько лет назад сказал мне, что деления с плавающей запятой выполняются медленнее, чем умножения ...
проблемы в сравнении с плавающей запятой [дубликаты]
На этот вопрос уже есть ответ: странный вывод в сравнении с плавающей точкой с литералом [/questions/1839422/strange-output-in-comparison-of-float-with-float-literal] 8 ответовvoid main() { float f = 0.98; if(f <= 0.98) printf("hi"); ...
Как происходит преобразование отрицательного значения с плавающей запятой в беззнаковое целое?
Что произойдет, если отрицательное значение с плавающей запятой преобразуется в значение целого типа без знака? Стандартные цитаты будут оценены. Проблема, с которой я сталкиваюсь, заключается в преобразовании значений беззнаковых целочисленных ...
Почему NaN не равно NaN? [Дубликат]
На этот вопрос уже есть ответ: Каково обоснование для всех сравнений, возвращающих false для значений NaN IEEE75 [/questions/1565164/what-is-the-rationale-for-all-comparisons-returning-false-for-ieee754-nan-values] 13 ответов Соответствующий ...
Java: Почему мы должны использовать BigDecimal вместо Double в реальном мире? [Дубликат]
На этот вопрос уже есть ответ: Двойной против БольшогоДекального? [/questions/3413448/double-vs-bigdecimal] 8 ответов При работе с реальными денежными значениями мне рекомендуется использовать BigDecimal вместо Double.Но у меня нет ...
Как работает это приближение квадратного корня с плавающей точкой?
Я нашел довольно странное, но работающее приближение квадратного корня дляfloats; Я действительно не понимаю. Может кто-нибудь объяснить мне, почему этот код работает? float sqrt(float f) { const int result = 0x1fbb4000 + (*(int*)&f >> 1); ...
Почему я получаю ноль в выражениях с плавающей точкой, как 1/2? [Дубликат]
На этот вопрос уже есть ответ: Проблема с плавающей точкой на C [дубликат] [/questions/26643536/trouble-with-float-on-c] 1 ответDividing 1 / n всегда возвращает 0.0 [duplicate] [/questions/13331054/dividing-1-n-always-returns-0-0] 3 ответа ...