Resultados de la búsqueda a petición "precision"
¿Numpy.sum se implementa de tal manera que se evitan los errores numéricos?
Es bien sabido que sumar números puede generar errores numéricos (por ejemplo, si el primer número es realmente grande, mientras que hay muchos otros números pequeños). Esto se puede resolver sumando los números de una manera no directa. Ver ...
¿Cómo son estos valores de doble precisión precisos a 20 decimales?
Estoy probando algunos errores de equivalencia muy simples cuando la precisión es un problema y esperaba realizar las operaciones en precisión doble extendida (para saber cuál sería la respuesta en ~ 19 dígitos) y luego realizar las ...
Establezca la precisión con fstream en el archivo de salida - formato doble
No puedo encontrar una respuesta sobre cómo podría usar un fstream ya abierto para generar dobles formateados en un archivo de texto. Actualmente mi código está haciendo esto: int writeToFile (fstream& f, product_record& p) { if (!f){ cout << ...
Uso de la función math.isclose con valores cercanos a 0
Como sabemos, debido a la representación binaria de los números, esta expresión se evalúa comoFalse (al menos en Python): 0.2 + 0.4 == 0.6Para poder verificar la igualdad dentro de los errores numéricos, el módulomath ofertasisclose: import ...
Golang convierte float64 en error int
¿Cómo puedo evitar errores de coma flotante al convertir float's a int's? Por ejemplo, se imprime el siguiente código:0.5499999999999972 cuando termine espero que se imprima0.55. package main import "fmt" func main() { x := 100.55 fmt.Println(x ...
¿Hay alguna biblioteca estándar para convertir float64 a cadena con ancho fijo con un número máximo de dígitos significativos?
Imagine que para imprimir en una tabla de 12 anchos fijos necesitamos imprimirfloat64 números: fmt.Printf("%12.6g\n", 9.405090880450127e+119) //"9.40509e+119" fmt.Printf("%12.6g\n", 0.1234567890123) //" 0.123457" ...
Excepción de punto flotante al leer valores reales de un archivo de entrada
Intento leer un valor flotante de un archivo de entrada enFortran. Para hacerlo, uso este código: ... INTEGER :: nf REAL :: re OPEN(newunit=nf, file='toto.txt') READ(unit=nf, fmt=*) re ...con toto.txt un archivo de texto que contiene mi valor ...
MATLAB está redondeando al entero más cercano
tengo un1x50000 matriz de tamañov y quiero convertirlo a media cero y varianza unitaria: x = ((v-mean(v))/std2(v));Pero en lugar de darme valores exactos de coma flotante, MATLAB lo está convirtiendo en enteros más cercanos. Por favor, ayúdame a ...
Orden de operaciones para maximizar la precisión
Estoy usando flotadores para estas operaciones: ¿Cuál de estos dos es más preciso? (a B Co (a / c) * b¿Importa en absoluto o depende de la situación? Si es así, ¿cuál debo elegir en qué casos?
¿Cuál es el método más preciso en python para calcular la solución de norma mínima o la solución obtenida del pseudoinverso?
Mi objetivo es resolver: Kc=ycon el pseudo-inverso (es decirsolución de norma mínima): c=K^{+}ytal que el modelo es (con suerte) modelo polinomial de alto gradof(x) = sum_i c_i x^i. Estoy especialmente interesado en el caso subdeterminado ...