Resultados de la búsqueda a petición "significant-digits"

10 la respuesta

¿La precisión de coma flotante es mutable o invariante?

Sigo recibiendo respuestas mixtas de si los números de coma flotante (es decir,float, doubleolong double) tienen uno y solo un valor de precisión, o tienen un valor de precisión que puede variar. Un tema llamadoflotante contra doble ...

14 la respuesta

¿Cómo redondeo un flotador a un número específico de dígitos significativos en Ruby?

Sería bueno tener un equivalente de R signif [http://rss.acs.unt.edu/Rdoc/library/base/html/Round.html] función en Ruby. Por ejemplo >> (11.11).signif(1) 10 >> (22.22).signif(2) 22 >> (3.333).signif(2) 3.3 >> (4.4).signif(3) 4.4 # It's usually ...

3 la respuesta

r manteniendo 0.0 al usar pasta o pasta0

Esta es una pregunta simple pero está empezando a molestarme porque no puedo encontrar una solución ...Me gustaría poder mantener el 0.0 cuando se usa como s...

1 la respuesta

Redondeando a n dígitos significativos

Estoy tratando de escribir código en MATLAB que redondeará el número a ciertos dígitos significativos (como pregunto). No estoy seguro de cómo hacerlo. ¿Alguna sugerencia?

3 la respuesta

¿Hay alguna manera de obtener las "cifras significativas" de un decimal?

ActualizarDe acuerdo, después de un poco de investigación, y gracias en gran parte a las útiles respuestas proporcionadas por Jon y Hans, esto es lo que pude reunir. Hasta ahora creo que parece funcionar bien. No apostaría mi vida a su total ...

4 la respuesta

Prevención de double.Parse de eliminar ceros finales después del decimal?

Al usar double.Parse, parece que le gusta separar los ceros (insignificantes) de la cadena que estoy convirtiendo. Me gustaría double.Parse para mantener lugares después del decimal. Por ejemplo, aquí hay un código: tobereturned.MouseSensitivty ...

3 la respuesta

¿Es la precisión de dígitos decimales más significativa que se puede convertir a binario y volver a decimal sin pérdida de significación 6 o 7.225?

Me he encontrado con dos fórmulas de precisión diferentes para números de punto flotante. ⌊ (N-1) registro10(2) ⌋ = 6 dígitos decimales(Precisión simple) y N log10(2) ≈ 7.225 dígitos decimales(Precisión simple) DóndeN = 24Bits significativos ...

2 la respuesta

Métodos incorporados para mostrar figuras significativas

Ha habido muchas preguntas sobre redondeo por cifras significativas, y respuestas que proporcionan un nuevo método para hacer el redondeo, como:Redondeo a un...

6 la respuesta

C ++ cifras significativas

¿Cómo puedo hacer cálculos matemáticos que involucren cifras significativas en C ++? Quiero que esto funcione correctamente con datos medidos de experimentos de química y física. Un ejemplo: 65/5 = 10. Necesitaría eliminar los ...

6 la respuesta

Extraiga n bits distintos de cero más significativos de int en C ++ sin bucles

Quiero extraer los n bits más significativos de un entero en C ++ y convertir esos n bits en un entero. Por ejempl int a=1200; // its binary representation within 32 bit word-size is // 00000000000000000000010010110000 Ahora quiero extraer los ...