Resultados de la búsqueda a petición "precision"
¿Cuál es la mejor manera de resumir muchos números de coma flotante?
Imagine que tiene una gran variedad de números de coma flotante, de todo tipo de tamaños. ¿Cuál es la forma más correcta de calcular la suma, con el menor error? Por ejemplo, cuando la matriz se ve así: [1.0, 1e-10, 1e-10, ... 1e-10.0]y sumas de ...
Acelere la generación de números aleatorios en MATLAB
¿Hay alguna forma de generar números pseudoaleatorios con menos precisión y así acelerar el proceso? Otra cosa es que sé que ahorra tiempo si se generan números aleatorios de una vez (p. Ej.rand(100,1000)), en lugar de uno por uno. ¿Alguien ...
¿Determinismo en las actualizaciones de gradiente de tensorflow?
Así que tengo un script NN muy simple escrito en Tensorflow, y estoy teniendo dificultades para tratar de localizar de dónde viene algo de "aleatoriedad". He grabado el Pesas,Gradientes,Logitsde mi red mientras entreno, y para la primera ...
Servidor SQL Precisión Locura
Tengo un problema con la precisión del servidor SQL. Tengo las siguientes consultas: DECLARE @A numeric(30,10) DECLARE @B numeric(30,10) SET @A = 20.225 SET @B = 53.3875 SELECT @A * @B DECLARE @A1 numeric(30,14) DECLARE @B1 numeric(30,14) ...
¿Salida extraña al comparar los mismos valores flotantes?
Comparación de los mismos valores flotantes en C [https://stackoverflow.com/questions/9850663/comparing-same-float-values-in-c] salida extraña en comparación de flotante con flotante ...
¿Cómo 'cout' el número correcto de decimales de un valor doble?
Necesito ayuda para mantener la precisión de undouble. Si asigno un literal a un doble, el valor real se truncó. int main() { double x = 7.40200133400; std::cout << x << "\n"; }Para el fragmento de código anterior, la salida fue7.402 ¿Hay alguna ...
Excepción de punto flotante al leer valores reales de un archivo de entrada
Intento leer un valor flotante de un archivo de entrada enFortran. Para hacerlo, uso este código: ... INTEGER :: nf REAL :: re OPEN(newunit=nf, file='toto.txt') READ(unit=nf, fmt=*) re ...con toto.txt un archivo de texto que contiene mi valor ...
Calcule el conjunto de Mandelbrot para una mayor precisión
¿Hay alguna forma práctica de realizar cálculos como los involucrados en la generación del conjunto de Mandelbrot para valores precisos quedouble olong double ¿puede proporcionar? Estaba pensando en tener posiblemente dos variables (ya sea doble ...
MATLAB está redondeando al entero más cercano
tengo un1x50000 matriz de tamañov y quiero convertirlo a media cero y varianza unitaria: x = ((v-mean(v))/std2(v));Pero en lugar de darme valores exactos de coma flotante, MATLAB lo está convirtiendo en enteros más cercanos. Por favor, ayúdame a ...
En MATLAB, ¿las variables REALMENTE tienen doble precisión por defecto?
Esta pregunta surgió de algo extraño que noté después de investigaresta pregunta [https://stackoverflow.com/q/4222257/52738]promover, adicional... Siempre entendí que las variables de MATLAB sonPrecisión ...