Resultados de la búsqueda a petición "floating-point"
¿Cómo verificar si un valor flotante está dentro de cierto rango y tiene un número dado de dígitos decimales?
¿Cómo verificar si un valor flotante está dentro de un rango (0.50,150.00) y tiene 2 dígitos decimales? Por ejemplo, 15.22366 debe ser falso (demasiados dígitos decimales). Pero 15.22 debería ser cierto. Intenté algo como: data= input() if ...
¿Cuáles son todos los cálculos posibles que podrían causar un NaN en Python? [cerrado]
He estado buscando, y parece que hay discusiones dispersas sobreNaNs en diferentes lenguajes de programación, incluidos algunos casos específicos, pero nada exhaustivo o claro. ¿Cuáles son las operaciones más comunes que causarían unNaN, en ...
¿Cómo se almacenan los números de coma flotante en la memoria [cerrado]
como la computadora entiende solo 0 y 1 debajo, ¿cómo se representan los números de coma flotante como 12.1234 en la memoria como un conjunto de 0 y 1, ¿Se almacena por los valores ASCII respectivos de 1, 2,. , 1,2,3,4 respectivamente ..?
¿Cómo leer un carácter a la vez de un archivo en Python?
Quiero leer en una lista de números de un archivo como caracteres un carácter a la vez para verificar qué es ese carácter, ya sea un dígito, un punto, un + o -, una e o E, o algún otro carácter. ..y luego realizar cualquier operación que quiera ...
Problemas de comparación de coma flotante MySQL
Me encontré con un problema al introducir columnas de punto flotante en el esquema de la base de datos MySQL de que las comparaciones en valores de punto flotante no siempre devuelven los resultados correctos. 1 - 50.12 2 - 34,57 3 - 12.75 4 - ...
¿Por qué el resultado de una división difiere según el tipo de lanzamiento? (Seguimiento)
Este es un seguimiento de esta pregunta:¿Por qué el resultado de una división difiere según el tipo de lanzamiento? [https://stackoverflow.com/questions/25703304/why-does-a-division-result-differ-based-on-the-cast-type] Sumario rápido: byte b1 ...
¿Cómo se propaga el error de coma flotante cuando se realizan operaciones matemáticas en C ++?
Digamos que hemos declarado las siguientes variables float a = 1.2291; float b = 3.99; float las variables tienen precisión 6, lo que (si lo entiendo correctamente) significa que la diferencia entre el número que la computadora ...
flota más pequeño que FLT_MIN. ¿Por qué FLT_TRUE_MIN?
En un intento por ver qué sucedería en el caso de un flujo inferior flotante, descubrí que podía hacer que los números flotantes fueran mucho más pequeños que FLT_MIN. Estoy usando xcode 5.1 en OS 10.9. El dialecto del idioma es gnu99. #include ...
Flotador de precisión fraccional
¿Cuántos lugares de precisión tiene unfloat tener entre1.0f y0.0f tal que cada valor pueda ser representado de manera única? Por ejemplo si el primer número fraccionariofloat no pudo representar0.13f la respuesta sería que un flotador solo tenía ...
¿Cómo encuentro el valor hash de un vector 3D?
Estoy tratando de realizar una detección de colisión de fase amplia con un enfoque de tamaño de cuadrícula fija. Por lo tanto, para la posición de cada entidad: (x, y, z) (cada una de tipo flotante), necesito encontrar en qué celda se encuentra ...