Resultados de la búsqueda a petición "precision"
Calcule el conjunto de Mandelbrot para una mayor precisión
¿Hay alguna forma práctica de realizar cálculos como los involucrados en la generación del conjunto de Mandelbrot para valores precisos quedouble olong double ¿puede proporcionar? Estaba pensando en tener posiblemente dos variables (ya sea doble ...
¿Cómo calcular dígitos decimales de precisión en función del número de bits?
Estoy aprendiendo sobre formatos de punto flotante (IEEE). En el formato de punto flotante de precisión simple, se menciona que la mantisa tiene 24 bits y, p...
Dividir dos enteros para producir un resultado flotante [duplicar]
Posible duplicado:¿Por qué no puedo devolver un doble de dos ints siendo dividido?Mi programa C ++ está truncando la salida de mi diseño entero, incluso cuan...
Sincronización PTP en el servidor de Windows (comparado con, por ejemplo, Linux): ¿qué precisión puede garantizarse?
Me gustaría saber si todo el mundo sabe lo preciso.PTP La sincronización se puede garantizar en Windows Server 2008.Sé sobre este hilo:¿Cuál es el tiempo mín...
Prueba de igualdad de punto flotante y precisión adicional: ¿puede fallar este código?
La discusión comenzó bajomi respuesta a otra pregunta. El siguiente código determinamáquina epsilon:
¿Cómo trabajar con grandes números en R?
Me gustaría cambiar la precisión en un cálculo de R. Por ejemplo, me gustaría calcularx^6 conx = c(-2.5e+59, -5.6e+60). Para calcularlo, debería cambiar la precisión en R, de lo contrario, el resultado esInf, y no sé cómo hacerlo.
¿Cuál es exactamente el parámetro de "resolución" de flotador numpy
Estoy buscando un poco más de comprensión sobre el parámetro de "resolución" de un flotador numpy (supongo que cualquier flotador definido por computadora para el caso). Considere el siguiente script: import numpy as np a = np.finfo(10.1) print ...
¿Cómo se convierte a medias carrozas en JavaScript?
Quiero poder usar elOES_texture_half_float extensión en WebGL y proporcionar mis propios datos pero no hayFloat16Array en JavaScript Entonces, ¿cómo genero datos de medio flotante?