Resultados de la búsqueda a petición "significant-digits"
Redondeo a un número arbitrario de dígitos significativos
Como puedes redondearalguna ¿Número (no solo enteros> 0) a N dígitos significativos?Por ejemplo, si quiero redondear a tres dígitos significativos, estoy ...
Extraiga n bits distintos de cero más significativos de int en C ++ sin bucles
Quiero extraer los n bits más significativos de un entero en C ++ y convertir esos n bits en un entero. Por ejempl int a=1200; // its binary representation within 32 bit word-size is // 00000000000000000000010010110000 Ahora quiero extraer los ...
¿Es la precisión de dígitos decimales más significativa que se puede convertir a binario y volver a decimal sin pérdida de significación 6 o 7.225?
Me he encontrado con dos fórmulas de precisión diferentes para números de punto flotante. ⌊ (N-1) registro10(2) ⌋ = 6 dígitos decimales(Precisión simple) y N log10(2) ≈ 7.225 dígitos decimales(Precisión simple) DóndeN = 24Bits significativos ...
Redondeando a n dígitos significativos
Estoy tratando de escribir código en MATLAB que redondeará el número a ciertos dígitos significativos (como pregunto). No estoy seguro de cómo hacerlo. ¿Alguna sugerencia?
Métodos incorporados para mostrar figuras significativas
Ha habido muchas preguntas sobre redondeo por cifras significativas, y respuestas que proporcionan un nuevo método para hacer el redondeo, como:Redondeo a un...
¿La precisión de coma flotante es mutable o invariante?
Sigo recibiendo respuestas mixtas de si los números de coma flotante (es decir,float, doubleolong double) tienen uno y solo un valor de precisión, o tienen un valor de precisión que puede variar. Un tema llamadoflotante contra doble ...
r manteniendo 0.0 al usar pasta o pasta0
Esta es una pregunta simple pero está empezando a molestarme porque no puedo encontrar una solución ...Me gustaría poder mantener el 0.0 cuando se usa como s...
C ++ cifras significativas
¿Cómo puedo hacer cálculos matemáticos que involucren cifras significativas en C ++? Quiero que esto funcione correctamente con datos medidos de experimentos de química y física. Un ejemplo: 65/5 = 10. Necesitaría eliminar los ...
¿Cómo redondeo un flotador a un número específico de dígitos significativos en Ruby?
Sería bueno tener un equivalente de R signif [http://rss.acs.unt.edu/Rdoc/library/base/html/Round.html] función en Ruby. Por ejemplo >> (11.11).signif(1) 10 >> (22.22).signif(2) 22 >> (3.333).signif(2) 3.3 >> (4.4).signif(3) 4.4 # It's usually ...
¿Hay alguna manera de obtener las "cifras significativas" de un decimal?
ActualizarDe acuerdo, después de un poco de investigación, y gracias en gran parte a las útiles respuestas proporcionadas por Jon y Hans, esto es lo que pude reunir. Hasta ahora creo que parece funcionar bien. No apostaría mi vida a su total ...
Página 1 de 2