Resultados de la búsqueda a petición "significant-digits"
r manteniendo 0.0 al usar pasta o pasta0
Esta es una pregunta simple pero está empezando a molestarme porque no puedo encontrar una solución ...Me gustaría poder mantener el 0.0 cuando se usa como s...
Métodos incorporados para mostrar figuras significativas
Ha habido muchas preguntas sobre redondeo por cifras significativas, y respuestas que proporcionan un nuevo método para hacer el redondeo, como:Redondeo a un...
Redondeo a un número arbitrario de dígitos significativos
Como puedes redondearalguna ¿Número (no solo enteros> 0) a N dígitos significativos?Por ejemplo, si quiero redondear a tres dígitos significativos, estoy ...
Redondeando a n dígitos significativos
Estoy tratando de escribir código en MATLAB que redondeará el número a ciertos dígitos significativos (como pregunto). No estoy seguro de cómo hacerlo. ¿Alguna sugerencia?
¿La precisión de coma flotante es mutable o invariante?
Sigo recibiendo respuestas mixtas de si los números de coma flotante (es decir,float, doubleolong double) tienen uno y solo un valor de precisión, o tienen un valor de precisión que puede variar. Un tema llamadoflotante contra doble ...
¿Es la precisión de dígitos decimales más significativa que se puede convertir a binario y volver a decimal sin pérdida de significación 6 o 7.225?
Me he encontrado con dos fórmulas de precisión diferentes para números de punto flotante. ⌊ (N-1) registro10(2) ⌋ = 6 dígitos decimales(Precisión simple) y N log10(2) ≈ 7.225 dígitos decimales(Precisión simple) DóndeN = 24Bits significativos ...
¿Hay alguna manera de obtener las "cifras significativas" de un decimal?
ActualizarDe acuerdo, después de un poco de investigación, y gracias en gran parte a las útiles respuestas proporcionadas por Jon y Hans, esto es lo que pude reunir. Hasta ahora creo que parece funcionar bien. No apostaría mi vida a su total ...
Prevención de double.Parse de eliminar ceros finales después del decimal?
Al usar double.Parse, parece que le gusta separar los ceros (insignificantes) de la cadena que estoy convirtiendo. Me gustaría double.Parse para mantener lugares después del decimal. Por ejemplo, aquí hay un código: tobereturned.MouseSensitivty ...
C ++ cifras significativas
¿Cómo puedo hacer cálculos matemáticos que involucren cifras significativas en C ++? Quiero que esto funcione correctamente con datos medidos de experimentos de química y física. Un ejemplo: 65/5 = 10. Necesitaría eliminar los ...
¿Cómo redondeo un flotador a un número específico de dígitos significativos en Ruby?
Sería bueno tener un equivalente de R signif [http://rss.acs.unt.edu/Rdoc/library/base/html/Round.html] función en Ruby. Por ejemplo >> (11.11).signif(1) 10 >> (22.22).signif(2) 22 >> (3.333).signif(2) 3.3 >> (4.4).signif(3) 4.4 # It's usually ...
Página 1 de 2