Resultados de la búsqueda a petición "rounding"

4 la respuesta

Valores de color de "redondeo" al más cercano de un pequeño conjunto de colores

Preámbulo Como parte de un proyecto en el que estoy trabajando, estoy tratando de proporcionar una manera conveniente de buscar imágenes en nuestro sistema. Actualmente proporcionamos búsquedas por varios tipos de metadatos agregados por el ...

16 la respuesta

Truncar (no redondear) lugares decimales en SQL Server

Estoy tratando de determinar la mejor manera de truncar o soltar lugares decimales adicionales en SQL sin redondear. Por ejemplo: declare @value decimal(18,2) set @value = 123.456Esto redondeará automáticamente @Value para que sea 123.46 ... que ...

7 la respuesta

Objetivo-C Float Rounding

¿Cómo podría redondear un flotador al entero más cercano en Objective-C: Ejemplo: float f = 45.698f; int rounded = _______; NSLog(@"the rounded float is %i",rounded);debería imprimir "el flotador redondeado es 46"

6 la respuesta

Dividiendo eficientemente el valor sin signo por una potencia de dos, redondeando - en CUDA

Solo estaba leyendo: Dividiendo eficientemente el valor sin signo por una potencia de dos, redondeando [https://stackoverflow.com/questions/40431599/efficiently-dividing-unsigned-value-by-a-power-of-two-rounding-up] y me preguntaba cuál era la ...

2 la respuesta

Problema de redondeo BigDecimal HALF_UP

Estoy tratando de redondear 0.14049 usando el modo de redondeo scale = 3 y HALF_UP y espero ver el valor redondeado = 0.141 pero obtengo 0.140 en su lugar. Según tengo entendido, el último dígito decimal 9 debería redondear el 4 al 5 y que a su ...

6 la respuesta

C ++ cifras significativas

¿Cómo puedo hacer cálculos matemáticos que involucren cifras significativas en C ++? Quiero que esto funcione correctamente con datos medidos de experimentos de química y física. Un ejemplo: 65/5 = 10. Necesitaría eliminar los ...

1 la respuesta

¿Cómo redondear valores solo para mostrar en pandas mientras se conservan los originales en el marco de datos?

Solo deseo redondear los valores en el marco de datos para fines de visualización, cuando uso head () o tail () pero quiero que el marco de datos conserve los valores originales. Intenté usar el método redondo pero cambia los valores en el marco ...

7 la respuesta

Fecha de redondeo a intervalo de 10 minutos

tengo unDATE columna que quiero redondear al siguiente intervalo de 10 minutos inferior en una consulta (ver ejemplo a continuación). Logré hacerlo truncando los segundos y luego restando el último dígito de minutos. WITH test_data AS ( SELECT ...

2 la respuesta

Cómo lidiar con redondeos extraños de flotadores en PHP

Como todos sabemos, la aritmética de coma flotante no siempre es completamente precisa, pero ¿cómo lidiar con sus inconsistencias? Como ejemplo, en PHP 5.2.9:(esto no sucede en 5.3) echo round(14.99225, 4); // 14.9923 echo round(15.99225, 4); ...

1 la respuesta

Python ROUND_HALF_UP no funciona como se esperaba

Parece que no puedo entender los documentos decimales para obtener 2.775 para redondear a 2.78 usando la clase decimal. import decimal decimal.getcontext().prec = 7 print(decimal.Decimal(2.775).quantize( ...