Resultados de la búsqueda a petición "floating-point"
¿Los patrones de bits de los NaN dependen realmente del hardware?
Estaba leyendo sobre valores de NaN de punto flotante en la especificación del lenguaje Java (estoy aburrido). Un 32 bitsfloat tiene este formato de bit: seee eeee emmm mmmm mmmm mmmm mmmm mmmms es el bit de signoe son los bits exponentes, ym ...
Uso confiable de dobles como std :: map keys
Uno de mis compañeros de trabajo recientemente mencionó un truco interesante para usar de manera confiable los números de coma flotante como claves en algo así como unstd::map en C ++. Suponiendo que desea utilizar mayúsculas y minúsculas en ...
¿Alguien puede explicar este extraño comportamiento con flotadores firmados en C #?
Aquí está el ejemplo con comentarios: class Program { // first version of structure public struct D1 { public double d; public int f; } // during some changes in code then we got D2 from D1 // Field f type became double while it was int before ...
¿Cómo calcular correctamente las funciones trigonométricas redondeadas en grados?
¿Cómo podría definir funciones trigonométricas que tomen argumentos en grados en lugar de los radianes habituales y calculen correctamente los resultados redondeados para estos argumentos? Multiplicando el argumento porM_PI/180.0 antes de ...
¿Cómo establecer la precisión de coma flotante numpy?
Acabo de calcular el mismo número de dos maneras, pero en numpy, se produce un error [[ 0.910221324013388510820732335560023784637451171875]] [[-0.9102213240133882887761274105287156999111175537109375]]este número es el mismo hasta e ^ (- 15), ...
¿Reglas prácticas para minimizar los errores de coma flotante en C?
Con respecto a minimizar el error en operaciones de punto flotante, si tengo una operación como la siguiente en C: float a = 123.456; float b = 456.789; float r = 0.12345; a = a - (r * b); ¿Cambiará el resultado del cálculo si divido los pasos ...
BASH Expresiones aritméticas
Había usado varias formas de hacer una aritmética de enteros simple en BASH (3.2). Pero no puedo encontrar la mejor manera (preferida) de hacerlo. result=`expr 1 + 2` result=$(( 1 + 2 )) let "result = 1 + 2"¿Cuáles son las diferencias ...
Math.pow produce resultados diferentes según la versión de Java
Estoy ejecutando el siguiente código en una versión JDK 1.7.0_60: System.out.println(Math.pow(1.5476348320352065, (0.3333333333333333)));El resultado es: 1.1567055833133086 Estoy ejecutando exactamente el mismo código en una versión JDK ...
Establezca precisión y recorte ceros finales pero nunca imprima exponente
Necesito: Establezca la precisión para que los flotadores se redondeen al centésimo (0.111 se imprime como 0.11)Ceros finales del clip (1.0 se imprime como 1)Nunca imprima un exponente (1000.1 se imprime como 1000.1)printf( "%.2f\n", input ); ...
Cálculo de coma flotante frente a enteros en hardware moderno
Estoy haciendo un trabajo crítico de rendimiento en C ++, y actualmente estamos usando cálculos enteros para problemas que son inherentemente de coma flotante porque "es más rápido". Esto causa muchos problemas molestos y agrega mucho código ...