Resultados de la búsqueda a petición "floating-point"
C ++ int float casting
¿Por qué m siempre = 0? Los miembros x e y de someClass son enteros. float getSlope(someClass a, someClass b) { float m = (a.y - b.y) / (a.x - b.x); cout << " m = " << m << "\n"; return m; }
Flotar en la base de datos a? en la re
Si tiene un flotante en MSSQLServer, ¿a qué le asigna esto en .NET? ¿Puedes convertirlo a Doble o perderás números?
¿Cómo imprimo un valor doble con total precisión usando cout?
Así que obtuve la respuesta a miúltima pregunt [https://stackoverflow.com/questions/553974/why-does-int55-54-in-c] (No sé por qué no pensé en eso). Estaba imprimiendo undouble utilizandocout que se redondeó cuando no lo esperaba. ¿Cómo puedo ...
MATLAB precisión
¿Cómo puedo implementar precisión cuádruple (aritmética de 128 bits) en MATLAB mientras resuelvo un problema de valor propio de Matrix? stoy tratando de resolver un problema de análisis de estabilidad lineal para el flujo de Couette en el plano ...
Math.cos inexactitud
alert(Math.cos(Math.PI/2)); ¿Por qué el resultado no es cero exacto? ¿Es esta inexactitud o algún error de implementación?
round () en Python no parece estar redondeando correctamente
La documentación para elredondo( [http://docs.python.org/lib/built-in-funcs.html]a función @ indica que le pasa un número y que las posiciones pasan del decimal a redondear. Por lo tanto,deberí hacer esto n = 5.59 round(n, 1) # 5.6Pero, en ...
Precisión de punto flotante mientras se usa max () @ de Pyth
¿Porque >>> max(2, 2.01) 2.0099999999999998
Asignar a flotante de cadena con precisión
Tengo el siguiente código, quiero asignar un valor decimal para flotar sin perder precisión. String s1= "525.880005"; Float f = new Float(s1); System.out.println(f);Salida 5.88 Rendimiento esperado 525.880005
NaN Literal en C?
¿Cómo se escribe unNaN literal de coma flotante en C?
Error restando números de coma flotante al pasar por 0.0
El siguiente programa: #include <stdio.h> int main() { double val = 1.0; int i; for (i = 0; i < 10; i++) { val -= 0.2; printf("%g %s\n", val, (val == 0.0 ? "zero" : "non-zero")); } return 0; } Produce esta salida: 0.8 non-zero 0.6 non-zero 0.4 ...