Resultados de la búsqueda a petición "precision"
Aritmética de punto flotante de media precisión en chips Intel
¿Es posible realizar aritmética de coma flotante de precisión media en chips Intel? Sé cómo cargar / almacenar / convertir números de coma flotante de precisión media [1] pero no sé cómo agregarlos / multiplicarlos sin convertirlos a números de ...
¿Cómo determina JavaScript el número de dígitos a producir al formatear valores de punto flotante?
En JavaScript, todos conocen el famoso cálculo:0.1 + 0.2 = 0.30000000000000004. Pero, ¿por qué JavaScript imprime este valor en lugar de imprimir el más preciso y preciso?0.300000000000000044408920985006?
¿Cuál es el método más preciso en python para calcular la solución de norma mínima o la solución obtenida del pseudoinverso?
Mi objetivo es resolver: Kc=ycon el pseudo-inverso (es decirsolución de norma mínima): c=K^{+}ytal que el modelo es (con suerte) modelo polinomial de alto gradof(x) = sum_i c_i x^i. Estoy especialmente interesado en el caso subdeterminado ...
Orden de operaciones para maximizar la precisión
Estoy usando flotadores para estas operaciones: ¿Cuál de estos dos es más preciso? (a B Co (a / c) * b¿Importa en absoluto o depende de la situación? Si es así, ¿cuál debo elegir en qué casos?
MATLAB está redondeando al entero más cercano
tengo un1x50000 matriz de tamañov y quiero convertirlo a media cero y varianza unitaria: x = ((v-mean(v))/std2(v));Pero en lugar de darme valores exactos de coma flotante, MATLAB lo está convirtiendo en enteros más cercanos. Por favor, ayúdame a ...
¿Por qué mi doble puede contener un valor debajo de la máquina epsilon?
Estaba resolviendo una ecuación usando doble precisión y obtuve-7.07649e-17 como una solución en lugar de0. Estoy de acuerdo en que está lo suficientemente cerca como para decir que es igual peroHe leído que la máquina épsilon para el tipo doble ...
Calcule el conjunto de Mandelbrot para una mayor precisión
¿Hay alguna forma práctica de realizar cálculos como los involucrados en la generación del conjunto de Mandelbrot para valores precisos quedouble olong double ¿puede proporcionar? Estaba pensando en tener posiblemente dos variables (ya sea doble ...
Cómo calcular la precisión y la recuperación en Keras
Estoy creando un clasificador de varias clases con Keras 2.02 (con el backend Tensorflow), y no sé cómo calcular la precisión y la recuperación en Keras. Por favor, ayúdame.
PHP7.1 json_encode () Problema de flotación
Esta no es una pregunta, ya que es más un cuidado. Actualicé una aplicación que usajson_encode() a PHP7.1.1 y estaba viendo un problema con los flotadores que se cambian para extender a veces 17 dígitos. Según la documentación, PHP 7.1.x comenzó ...
Excepción de punto flotante al leer valores reales de un archivo de entrada
Intento leer un valor flotante de un archivo de entrada enFortran. Para hacerlo, uso este código: ... INTEGER :: nf REAL :: re OPEN(newunit=nf, file='toto.txt') READ(unit=nf, fmt=*) re ...con toto.txt un archivo de texto que contiene mi valor ...