Resultados de la búsqueda a petición "floating-point"
Funciones de comparación de punto flotante para C #
¿Alguien puede señalar (o mostrar) algunas buenas funciones generales de comparación de coma flotante en C # para comparar valores de coma flotante? Quiero implementar funciones paraIsEqual, IsGreater unIsLess. También solo me importan los ...
¿Convertir hexadecimal flotante IEEE a decimal?
SI tengo un flotante IEEE hex 42F6E979, ¿cómo lo convierto a decimal? Creo que la representación decimal es = 123.456001
¿Por qué no se trata "0f" como un literal de coma flotante en C ++?
Por qué no0f tratado como un literal de coma flotante en C ++? #include <iostream> using namespace std; int main(){ cout << 0f << endl; return 0; }Compilar lo anterior me da C2509 (error de sintaxis: 'sufijo incorrecto en el número') usando ...
Convertir decimal a doble?
Quiero usar una barra de seguimiento para cambiar la opacidad de un formulario. Este es mi código: decimal trans = trackBar1.Value / 5000; this.Opacity = trans;Cuando construyo la aplicación, aparece el siguiente error: No se puede convertir ...
¿Por qué las operaciones con valores de doble precisión no dan los resultados esperados?
System.out.println(2.14656);2.14656 System.out.println(2.14656%2);0.14656000000000002 WTF?
¿Por qué el valor de coma flotante de 4 * 0.1 se ve bien en Python 3 pero 3 * 0.1 no?
Sé que la mayoría de los decimales no tienen una representación exacta de coma flotante (¿Se han roto las matemáticas de coma flotante? [https://stackoverflow.com/questions/588004]) Pero no veo porque4*0.1 se imprime muy bien como0.4, pero3*0.1 ...
¿Determinismo en las actualizaciones de gradiente de tensorflow?
Así que tengo un script NN muy simple escrito en Tensorflow, y estoy teniendo dificultades para tratar de localizar de dónde viene algo de "aleatoriedad". He grabado el Pesas,Gradientes,Logitsde mi red mientras entreno, y para la primera ...
struct.unpack (struct.pack (float)) tiene un error de redondeo?
Al probar mi biblioteca,Construir [https://github.com/construct/construct], Descubrí que las pruebas fallan cuando se construyen los números y luego se vuelven a analizar en un flotante. ¿No deberían representarse los flotantes exactamente como ...
¿Por qué Perl es inconsistente con el redondeo de sprintf?
Aquí hay un script perl: #!/usr/bin/perl use strict; use warnings; use feature 'say'; my @numbers = qw( 0.254 0.255 0.256 ); foreach my $number (@numbers) { my $rounded = sprintf '%.2f', $number; say "$number => $rounded"; } foreach my $number ...
Agregar el flotador más pequeño posible a un flotador
Quiero agregar el valor más pequeño posible de un flotante a un flotante. Entonces, por ejemplo, intenté hacer esto para obtener 1.0 + el flotante más pequeño posible: float result = 1.0f + std::numeric_limits<float>::min();Pero después de ...