Resultados de la búsqueda a petición "floating-point"
Punto flotante de precisión e igualdad en Java
Se sabe que el número de coma flotante, incluso aquellos con dígitos fijos después del punto decimal en formato decimal, no se pueden representar exactamente. Entonces tengo el siguiente programa para probar: public class Main { public static ...
¿Es `x! = X` una forma portátil de probar NaN?
En C puede probar para ver si un doble si NaN usaisnan(x). Sin embargo, muchos lugares en línea, incluido, por ejemplo, estoPues contesta [https://stackoverflow.com/a/1923933/2179021]di que simplemente puedes usarx!=x en lugar. Esx!=x en ...
Resultado inesperado de PHP de float to int type cast
Estoy tratando de convertir un flotante a un valor int en php: var_dump((int)(39.3 * 100.0)); //Returns 3929 but should be 3930! var_dump((int)(39.2 * 100.0)); //Returns 3920Puedo usar ceil para que funcione, pero ¿alguien puede explicarme ...
cuantos números enteros hay en IEEE 754
Estoy tratando de averiguar cuántos números enteros existen en el ieee 754. El número que obtuve fue 1778384895, pero no pude encontrar ningún recurso para comprobarlo. Muchas gracias por adelantado.
¿Límite de precisión de coma flotante?
¿Hay alguna forma de redondear los puntos flotantes a 2 puntos? P.ej.:3576.7675745342556 se convierte3576.76.
¿Qué usos tienen las cargas útiles de NaN de punto flotante?
Sé que IEEE 754 define que los NaN tienen la siguiente representación a nivel de bits: El bit de signo puede ser0 o1El campo exponente contiene todos1 pedacitosAlgunos bits de la mantisa se utilizan para especificar si se trata de un NaN ...
¿Cómo crear un flotante aleatorio en Objective-C?
Estoy tratando de crear un flotante aleatorio entre 0.15 y 0.3 en Objective-C. El siguiente código siempre devuelve 1: int randn = (random() % 15)+15; float pscale = (float)randn / 100;¿Qué estoy haciendo mal?
¿Doble contra BigDecimal?
Tengo que calcular algunas variables de coma flotante y mi colega me sugiere que useBigDecimal en lugar dedouble ya que será más preciso. Pero quiero saber qué es y cómo aprovechar al máximoBigDecimal?
Serializar doble y flotar con C
¿Cómo puedo serializar dobles y flotantes en C? Tengo el siguiente código para serializar cortos, entradas y caracteres. unsigned char * serialize_char(unsigned char *buffer, char value) { buffer[0] = value; return buffer + 1; } unsigned char * ...
¿Por qué agregar dos decimales en Javascript produce un resultado incorrecto? [duplicar]
Posible duplicado: ¿Está rota la matemática de JavaScript? [https://stackoverflow.com/questions/588004/is-javascripts-math-broken] ¿Por qué JS arruina esta simple matemática? document.write(.1 + .2) // 0.3000000000000004 document.write(.3 + .6) ...