Resultados de la búsqueda a petición "floating-point"
Aritmética de coma flotante: operador de módulo en tipo doble
Así que estoy tratando de averiguar por qué el operador de módulo está devolviendo un valor inusual tan grande. Si tengo el código: double result = 1.0d % 0.1d; dará un resultado de0.09999999999999995. Esperaría un valor de0 Tenga en cuenta ...
¿Convertir flotante a cadena con precisión y número de dígitos decimales especificados?
¿Cómo se convierte un flotante en una cadena en C ++ mientras se especifica la precisión y el número de dígitos decimales? Por ejemplo:3.14159265359 -> "3.14"
Cómo comparar eficientemente el signo de dos valores de punto flotante mientras se manejan ceros negativos
Dados dos números de coma flotante, estoy buscando uneficiente forma de verificar si tienen el mismo signo,dado que si alguno de los dos valores es cero (+0.0 o -0.0), se debe considerar que tienen el mismo signo. Por ejemplo, SameSign (1.0, ...
¿Es correcto suponer que las muestras de punto flotante en un archivo WAV o AIFF se normalizarán?
Digamos que tengo un programa que lee un archivo .WAV o .AIFF, y el audio del archivo está codificado como valores de muestra de punto flotante. ¿Es correcto que mi programa asuma que cualquier archivo .WAV o .AIFF bien formado (basado en coma ...
¿Cuántos números dobles hay entre 0.0 y 1.0?
Esto es algo que he estado pensando durante años, pero nunca antes me tomé el tiempo para preguntar. Muchos generadores de números (pseudo) aleatorios generan un número aleatorio entre 0.0 y 1.0. Matemáticamente hay números infinitos en este ...
Conversión de flotante a char *
¿Cómo puedo convertir unfloat valor parachar* enC ¿idioma?
¿Por qué algunas comparaciones flotantes <enteras son cuatro veces más lentas que otras?
Al comparar flotantes con enteros, algunos pares de valores tardan mucho más en evaluarse que otros valores de una magnitud similar. Por ejemplo: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times ...
Determinar la precisión y la escala de un número particular en Python
Tengo una variable en Python que contiene un número de coma flotante (p. Ej.num = 24654.123), y me gustaría determinar la precisión del número y los valores de escala (en el sentido de Oracle), por lo que 123.45678 debería darme (8,5), 12,76 ...
ronda en PHP muestra notación científica en lugar de número completo
Estoy tratando de hacer un eco de una variable que contiene 1400000. así que está escrito:echo round(1400000); esto da 1,4E + 6 en lugar del número completo. ¿Alguien una idea sobre cómo mostrarlo completamente?
Resultados inesperados para puntos de coma flotante
La pregunta no es por qué0.1 + 0.9 no es igual1.0. Se trata del comportamiento diferente de un igual. ¿Alguien puede explicar por qué los ejemplos a continuación funcionan de manera diferente? float q = 0.1f; float w = 0.9f; float summ = q + w; ...