Resultados de la búsqueda a petición "floating-point"

3 la respuesta

¿Cómo encuentras el valor no igual más cercano de un flotador? [duplicar]

Esta pregunta ya tiene una respuesta aquí: ¿Cómo alterar un flotador por su incremento más pequeño (o cerca de él)? [/questions/155378/how-to-alter-a-float-by-its-smallest-increment-or-close-to-it] 7 respuestasA float (también conocido como ...

2 la respuesta

Compruebe si float está cerca de cualquier flotante almacenado en la matriz

Necesito verificar si un flotador dado está cerca, dentro de una tolerancia dada, acualquier flotador en una variedad de carrozas. import numpy as np # My float a = 0.27 # The tolerance t = 0.01 # Array of floats arr_f = np.arange(0.05, 0.75, ...

3 la respuesta

¿Por qué agregar 0.1 múltiples veces permanece sin pérdidas?

Sé que el0.1 el número decimal no se puede representar exactamente con un número binario finito (explicación [http://www.exploringbinary.com/why-0-point-1-does-not-exist-in-floating-point/] ), entoncesdouble n = 0.1 perderá algo de precisión y no ...

2 la respuesta

Convertir 4 bytes en bruto en coma flotante de 32 bits

Estoy tratando de reconstruir un valor de coma flotante de 32 bits a partir de un eeprom. Los 4 bytes en la memoria eeprom (0-4) son: B4 A2 91 4D y la PC (VS Studio) lo reconstruye correctamente como 3.054199 * 10 ^ 8 (el valor de coma flotante ...

3 la respuesta

La mejor manera de verificar si un punto flotante es un entero

[Hay algunas preguntas sobre esto, pero ninguna de las respuestas es particularmente definitiva y varias están desactualizadas con el estándar actual de C ++]. Mi investigación muestra que estos son los principales métodos utilizados ...

3 la respuesta

std :: stod arroja el error out_of_range para una cadena que debería ser válida

#include <iostream> #include <cmath> #include <sstream> using namespace std; int main(){ stringstream ss; double ad = 7.63918e-313; ss << ad; cout<<ss.str()<<endl; //you will see that the above double is valid, and maps to the specified string ...

2 la respuesta

¿Por qué obtengo un resultado diferente de std :: fmod y std :: resto

En la aplicación de ejemplo a continuación, calculo el resto del punto flotante de la división953 por0.1, utilizandostd::fmod Lo que esperaba es que desde953.0 / 0.1 == 9530, esestd::fmod(953, 0.1) == 0 Me estoy poniendo0.1 - ¿Por qué es este ...

1 la respuesta

¿Por qué Rust no implementa el pedido total a través del rasgo Ord para f64 y f32?

Mientras que todos los tipos enteros en Rust implementanOrd [http://doc.rust-lang.org/std/cmp/trait.Ord.html]que enfatiza el orden total, los tipos de punto flotante solo ...

3 la respuesta

php calcular flotador

Tengo un cálculo matemático extraño aquí. Espero que alguien te lo explique. $a = 1.85/100; $b = 1.5/100; $c = 1.1/100; $d = 0.4/100; $e = 0.4/100; $f = 0.4/100; $g = 0.4/100; $h = $a + $b + $c + $d + $e + $f + $g; echo $h*100 ."<br>"; $i = ...

7 la respuesta

La forma más eficiente de implementar la función pow () en coma flotante

Estoy tratando de implementar mi propia versión de pow () y sqrt () ya que mi biblioteca personalizada no tiene soporte de coma flotante pow () / sqrt (). ¿Alguien puede ayudar?