Resultados de la búsqueda a petición "floating-point"
El operador 'is' se comporta inesperadamente con flotantes
Me encontré con un problema confuso cuando la unidad prueba un módulo. El módulo en realidad está emitiendo valores y quiero comparar estos valores. Hay una diferencia en comparación con== yis (en parte, tenga cuidado con la diferencia) >>> 0.0 ...
Comparación de variables flotantes y dobles [duplicado]
Posibles duplicados: Diferencia entre flotador y doble [https://stackoverflow.com/questions/2386772/difference-between-float-and-double] salida extraña en comparación de flotante con flotante ...
¿Por qué Double.MIN_VALUE no es negativo?
¿Alguien puede arrojar algo de luz sobre por quéDouble.MIN_VALUE ¿no es realmente el valor mínimo que pueden tomar los Dobles? Es un valor positivo, y un Doble puede, por supuesto, ser negativo. Entiendo por qué es un número útil, pero parece un ...
¿Por qué aparece un error al agregar un número entero a un punto flotante?
Empecé a aprender Rust. Probé este programa: fn main() { let a = 5; let b = 5.5; let k = a + b; println!("{}", k); }y muestra este error: error[E0277]: cannot add a float to an integer --> src/main.rs:4:16 | 4 | let k = a + b; | ^ no ...
intercambiando "endianness" de flotadores y dobles
Me gustaría cambiar el "endianness" de los valores flotantes y dobles, funciona bien, haciendo algo como: float const v{1.f}; swap(reinterpret_cast<::std::uint32_t const&>(v));¿Existe una mejor manera de hacer el intercambio, sin un ...
Problema de redondeo con doble tipo [duplicado]
Posible duplicado: ¿Por qué las operaciones con valores de doble precisión no dan los resultados esperados? [https://stackoverflow.com/questions/3892908/why-dont-operations-on-double-precision-values-give-expected-results] Estoy experimentando ...
¿Qué es desbordamiento y subflujo en coma flotante?
Siento que realmente no entiendo el concepto deoverflow yunderflow. Estoy haciendo esta pregunta para aclarar esto. Necesito entenderlo en su nivel más básico con bits. Trabajemos con la representación simplificada de coma flotante de1 byte1 ...
Doblar y dividir valores de coma flotante
Tengo la función que creo que convertirá un int en un valor de coma flotante dividido en el exponente de signo y los componentes de fracción del valor. Usando IEEE 754 para representar valores flotantes. [/imgs/Y0BiO.png] unsigned ...
¿Está bien comparar puntos flotantes a 0.0 sin epsilon?
Soy consciente de que, para comparar dos valores de coma flotante, uno necesita usar cierta precisión épsilon, ya que no son exactos. Sin embargo, me pregunto si hay casos extremos, donde no necesito ese épsilon. En particular, me gustaría saber ...
Conversión de cadena a flotante de C #
Necesito convertir una cadena en un flotador. Esta es mi cadena de ejemplo: 1 MW +00000.00 mm 2 MW +0000.000 mm 3 MW -00000.01 mm 4 MW +00000.00 mm 5 MW +00002.92 mm 6 MW +00002.69 mm Y esto es lo que estoy haciendo: text = text.Substring(pos ...