Resultados de la búsqueda a petición "floating-point"

2 la respuesta

Matlab vs C ++ doble precisión

Estoy portando algún código de Matlab a C ++. En matlab format long D = 0.689655172413793 (this is 1.0 / 1.45) E = 2600 / D // I get E = 3.770000000000e+03En C ++ double D = 0.68965517241379315; //(this is 1.0 / 1.45) double E = 2600 / D; ...

9 la respuesta

Epsilon de doble comparación de Java

Escribí una clase que prueba la igualdad, menor y mayor que con dos dobles en Java. Mi caso general es comparar precios que pueden tener una precisión de medio centavo. 59.005 comparado con 59.395. ¿El épsilon que elegí es adecuado para esos ...

8 la respuesta

Salida incorrecta de printf de un número

int main() { double i=4; printf("%d",i); return 0; }¿Alguien puede decirme por qué este programa da salida de 0?

1 la respuesta

C ++ / C # diferencias con flotante y doble

Estamos convirtiendo una biblioteca matemática de C ++ a C #. La biblioteca combina el uso de flotadores y dobles (a veces lanzando entre ellos) y estamos tratando de hacer lo mismo, para obtener exactamente los mismos resultados en C # que ...

2 la respuesta

¿Por qué no hay tipos de coma flotante sin signo? [duplicar]

Posible duplicado: ¿Por qué C no tiene carrozas sin signo? [https://stackoverflow.com/questions/512022/why-doesnt-c-have-unsigned-floats] La pregunta es probablemente muy básica y probablemente fue respondida muchas veces antes, pero quiero ...

1 la respuesta

Implementación vectorizable de la función de error complementaria erfcf ()

La función de error complementaria,erfc, es una función especial estrechamente relacionada con la distribución normal estándar. Se usa con frecuencia en estadísticas y ciencias naturales (por ejemplo, problemas de difusión) donde se deben ...

4 la respuesta

¿Cómo puedo obtener los primeros n bits de número de coma flotante como entero en python

Supongamos que tengo0.625 como un punto flotante es0b.101, así que si quiero los primeros dos bits de eso como un entero, es decir0b10 = 2, ¿cómo puedo lograr esto en python? Intenté llevar el número a una potencia de 2 y enviarlo a un int, así ...

6 la respuesta

¿Por qué no se pueden comparar los números de coma flotante? [duplicar]

Posible duplicado: salida extraña en comparación de flotante con flotante literal [https://stackoverflow.com/questions/1839422/strange-output-in-comparision-of-float-with-float-literal] #include<stdio.h> int main() { float me = 1.7; if(me==1.7) ...

6 la respuesta

obtener el valor de representación entero de una variable de tipo flotante en C

Tengo el número 20 (0x14) almacenado en un registro de 32 bits. El registro se asigna a una variable flotante C que representa el valor 2.8e-44. Ahora quiero recuperar la representación hexadecimal de la variable flotante y almacenarla en una ...

3 la respuesta

¿JavaScript tiene doble precisión de número de coma flotante?

Sé que es una pregunta extraña, pero ¿JavaScript tiene la capacidad de funcionar con flotantes dobles en lugar de flotantes individuales? (Flotantes de 64 bits frente a 32 bits).