Resultados de la búsqueda a petición "floating-point"
ordenar matriz por valor que se calcula a partir de la matriz
Tengo el lat y el lng de un usuario de la base de datos en una matriz y tengo mi lat y lng Ahora quiero calcular la distancia y ordenar a los usuarios de mi base de datos con eso $mylat = $_SESSION['lat']; $mylng = $_SESSION['lng']; $statement ...
¿Por qué obtengo el resultado incorrecto cuando uso float? [duplicar]
Posibles duplicados: ¿Por qué es (doble) 0.6f> (doble) (6/10f)? [https://stackoverflow.com/questions/3748768/why-is-double0-6f-double6-10f] ¿Por qué la aritmética de coma flotante en C # es ...
¿Salida extraña al comparar los mismos valores flotantes?
Comparación de los mismos valores flotantes en C [https://stackoverflow.com/questions/9850663/comparing-same-float-values-in-c] salida extraña en comparación de flotante con flotante ...
¿Puedo usar las unidades AVX FMA para hacer multiplicaciones enteras de 52 bits con exactitud de bit?
AXV2 no tiene multiplicaciones de enteros con fuentes mayores de 32 bits. Sí ofrece32 x 32 -> 32 [http://www.felixcloutier.com/x86/PMULLD.html]multiplica, así como32 x 32 -> 64 [http://www.felixcloutier.com/x86/PMULDQ.html]$432 x 32 ...
¿Cómo se verifican los valores infinitos e indeterminados en C ++?
En mis programas, el infinito generalmente surge cuando un valor se divide por cero. Me pongo indeterminado cuando divido cero por cero. ¿Cómo se verifican los valores infinitos e indeterminados en C ++? En C ++, el infinito está representado ...
errores de punto flotante de rubí
¿Alguien puede explicar por qué multiplicar por 100 aquí da un resultado menos preciso pero multiplicar por 10 dos veces da un resultado más preciso? ± % sc Loading development environment (Rails 3.0.1) >> 129.95 * 100 12994.999999999998 >> ...
Cómo verificar inf (y | o) NaN en una variable doble
Considere el siguiente código: #include <iostream> #include <cstdio> #include <cstring> using namespace std; template<class T> bool IsNaN(T t) { return t != t; } int main(int argc, char**argv) { double d1, d2; sscanf(argv[1], "%f", &d1); ...
C # flotante mágicamente cambiando valor
Tengo una carroza con un valor muy importante, que tiene que ser MUY exacto. El problema que tengo es que estoy cambiando el valor del flotante SIEMPRE solo + y - (No hay división aquí). Después de cambiar el valor unas 20 veces, el valor no es ...
MATLAB está redondeando al entero más cercano
tengo un1x50000 matriz de tamañov y quiero convertirlo a media cero y varianza unitaria: x = ((v-mean(v))/std2(v));Pero en lugar de darme valores exactos de coma flotante, MATLAB lo está convirtiendo en enteros más cercanos. Por favor, ayúdame a ...
Representación de números de coma flotante de Java como números hexadecimales
Por que0x1p3 igual8.0? Por que0x1e3 igual483mientras que0x1e3d es igual7741? Es confuso ya que1e3d es igual1000.0.