Resultados de la búsqueda a petición "rounding"
Valores de color de "redondeo" al más cercano de un pequeño conjunto de colores
Preámbulo Como parte de un proyecto en el que estoy trabajando, estoy tratando de proporcionar una manera conveniente de buscar imágenes en nuestro sistema. Actualmente proporcionamos búsquedas por varios tipos de metadatos agregados por el ...
Truncar (no redondear) lugares decimales en SQL Server
Estoy tratando de determinar la mejor manera de truncar o soltar lugares decimales adicionales en SQL sin redondear. Por ejemplo: declare @value decimal(18,2) set @value = 123.456Esto redondeará automáticamente @Value para que sea 123.46 ... que ...
Objetivo-C Float Rounding
¿Cómo podría redondear un flotador al entero más cercano en Objective-C: Ejemplo: float f = 45.698f; int rounded = _______; NSLog(@"the rounded float is %i",rounded);debería imprimir "el flotador redondeado es 46"
Dividiendo eficientemente el valor sin signo por una potencia de dos, redondeando - en CUDA
Solo estaba leyendo: Dividiendo eficientemente el valor sin signo por una potencia de dos, redondeando [https://stackoverflow.com/questions/40431599/efficiently-dividing-unsigned-value-by-a-power-of-two-rounding-up] y me preguntaba cuál era la ...
Problema de redondeo BigDecimal HALF_UP
Estoy tratando de redondear 0.14049 usando el modo de redondeo scale = 3 y HALF_UP y espero ver el valor redondeado = 0.141 pero obtengo 0.140 en su lugar. Según tengo entendido, el último dígito decimal 9 debería redondear el 4 al 5 y que a su ...
C ++ cifras significativas
¿Cómo puedo hacer cálculos matemáticos que involucren cifras significativas en C ++? Quiero que esto funcione correctamente con datos medidos de experimentos de química y física. Un ejemplo: 65/5 = 10. Necesitaría eliminar los ...
¿Cómo redondear valores solo para mostrar en pandas mientras se conservan los originales en el marco de datos?
Solo deseo redondear los valores en el marco de datos para fines de visualización, cuando uso head () o tail () pero quiero que el marco de datos conserve los valores originales. Intenté usar el método redondo pero cambia los valores en el marco ...
Fecha de redondeo a intervalo de 10 minutos
tengo unDATE columna que quiero redondear al siguiente intervalo de 10 minutos inferior en una consulta (ver ejemplo a continuación). Logré hacerlo truncando los segundos y luego restando el último dígito de minutos. WITH test_data AS ( SELECT ...
Cómo lidiar con redondeos extraños de flotadores en PHP
Como todos sabemos, la aritmética de coma flotante no siempre es completamente precisa, pero ¿cómo lidiar con sus inconsistencias? Como ejemplo, en PHP 5.2.9:(esto no sucede en 5.3) echo round(14.99225, 4); // 14.9923 echo round(15.99225, 4); ...
Python ROUND_HALF_UP no funciona como se esperaba
Parece que no puedo entender los documentos decimales para obtener 2.775 para redondear a 2.78 usando la clase decimal. import decimal decimal.getcontext().prec = 7 print(decimal.Decimal(2.775).quantize( ...