Resultados de la búsqueda a petición "floating-point"
Implementación eficiente de log2 (__ m256d) en AVX2
SVML__m256d _mm256_log2_pd (__m256d a) no está disponible en otros compiladores que no sean Intel, y dicen que su rendimiento está limitado en los procesadores AMD. Hay algunas implementaciones en internet referidas en¿Faltan intrínsecos ...
Objetivo-C Float Rounding
¿Cómo podría redondear un flotador al entero más cercano en Objective-C: Ejemplo: float f = 45.698f; int rounded = _______; NSLog(@"the rounded float is %i",rounded);debería imprimir "el flotador redondeado es 46"
Visual C ++ / Comportamiento extraño después de habilitar excepciones de punto flotante (¿error del compilador?)
Estoy luchando por obtener una forma confiable de detectar excepciones de puntos flotantes en Visual Studio (2005 o 2008). De forma predeterminada, en Visual Studio, las excepciones de punto flotante no se detectan y son bastante difíciles de ...
Cómo extraer un número flotante de una cadena [duplicado]
Esta pregunta ya tiene una respuesta aquí: Extraer flotante / valor doble [/questions/385558/extract-float-double-value] 4 respuestasTengo una serie de cadenas similares aCurrent Level: 13.4 db. y me gustaría extraer solo el número de coma ...
¿Cuáles son las reglas que rigen los cálculos mixtos de precisión simple y doble de C ++?
Por ejemplo, estas variables: result (double) a (double) b (float) c (float) d (double)Un cálculo simple: result = a * (b + c) * d¿Cómo y cuándo se convierten los tipos y cómo calculo con qué precisión se realiza cada cálculo?
doble o flotante, ¿cuál es más rápido? [duplicar]
Esta pregunta ya tiene una respuesta aquí: ¿Está usando el doble más rápido que el flotador? [/questions/3426165/is-using-double-faster-than-float] 7 respuestasEstoy leyendo "C ++ acelerado". Encontré una oración que dice "a vecesdouble es más ...
Comprender los problemas de coma flotante
¿Podría alguien ayudarme a entender cómo determinar cuándo las limitaciones de coma flotante causarán errores en sus cálculos? Por ejemplo el siguiente código. CalculateTotalTax = function (TaxRate, TaxFreePrice) { ...
¿Cómo analizar flotante con dos decimales en javascript?
tengo el siguiente código. Me gustaría tenerlo de modo que si price_result sea igual a un número entero, digamos 10, entonces me gustaría agregar dos lugares decimales. Entonces 10 sería 10.00. O si es igual a 10.6 sería 10.60. No estoy seguro de ...
Largo en flotador, ¿por qué?
long b = 99; float c = 99.0F; //b = c; //Error : Cannot implicitly convert type 'float' to 'long'. c = b; // Running Successfully. Why?¿Por qué no hay ningún problema con respecto al tamaño del tipo de datos y la conversión implícita? La talla ...
Truncar números flotantes con PHP
Cuando un número flotante necesita truncarse a un cierto dígito después del punto flotante, resulta que no es fácil hacerlo. Por ejemplo, si el truncamiento debe hacerse al segundo dígito después del punto, los números deben ser 45.8976 => 45.89, ...