Resultados de la búsqueda a petición "floating-point"
¿Cómo formatear bien los números flotantes en String sin 0 decimal innecesario?
Un doble de 64 bits puede representar un entero +/- 2 53 exactamente ado este hecho, elijo usar un tipo doble como tipo único para todos mis tipos, ya que mi número entero más grande es de 32 bits sin signo. Pero ahora tengo que imprimir estos ...
x86 ensamblador: punto flotante comparar
Como parte de un proyecto de compilación, tengo que escribir el código de ensamblador GNU para x86 para comparar los valores de coma flotante. He tratado de encontrar recursos sobre cómo hacer esto en línea y, por lo que entiendo, funciona ...
Perl se convierte a int incorrecto pero solo con un número específico
el siguiente código perl convierte un número flotante al número entero incorrecto use strict; my $zahl =297607.22000; $zahl=$zahl * 100; print "$zahl\n"; my $text=sprintf ("%017d",$zahl); print $text; La salida de esto es: 29760722 ...
Una forma de redondear los flotadores hacia abajo
Float round lo redondea hacia arriba o hacia abajo. Siempre lo necesito para redondear. Tengo la solución pero no me gusta mucho ... Tal vez hay una mejor manera. Esto es lo que quiero 1.9999.round_down(2) #=> 1.99 1.9901.round_down(2) #=> 1 ...
¿Por qué Microsoft abandonó el tipo de datos doble largo? [cerrado
A hace un tiempo escribí un programa que usaba algunas funciones factoriales. Utilicé el tipo de datos doble largo para admitir números grandes "relativos". Ahora, cambié de bloque de código a Visualstudio 2010, me preguntaba por qué ...
Algoritmo para convertir un IEEE 754 doble en una cadena?
Muchos lenguajes de programación que usan dobles IEEE 754 proporcionan una función de biblioteca para convertir esos dobles en cadenas. Por ejemplo, C tienesprintf, C ++ tienestringstream, Java tieneDouble.toString, etc. Internalmente, ¿cómo se ...
Está comprobando un doble para la igualdad siempre seguro?
Tengo el siguiente código double x = 0; { ...do stuff ...} if(x == 0){ } Siempre me enseñaron que no se deben verificar las flotadores por igualdad. ¿Es diferente comprobar si es igual a cero?
¿Cómo producir un flotador de NaN en c?
float f = (float)'a'; if(f < 0){ } else if(f == 0){ } else if(f > 0){ } else{ printf("NaN\n"); }f no será mayor / igual / menor que0 si es unNaN. Pero cómo producir talf ¿en primer lugar ntenté varias formas de producir unaNaN, pero ninguno ...
Convertir doble / flotante a cadena
Necesito convertir un número de coma flotante a una cadena equivalente en decimal (u otra base). La conversión al principio debe hacerse en el formatoxE+0 dóndex es el número de coma flotante. La idea que tengo es truncar primero el número de ...
Extraño para el problema del bucle
No estoy seguro de si esto es un error o no, así que pensé que quizás ustedes querrían echar un vistazo. El problema radica en este código: for i=0,1,.05 do print(i) end La salida debe ser: 0 .05 .1 --snip-- .95 1 En cambio, el resultado ...