Resultados de la búsqueda a petición "floating-point"
javascript - límite de un monto en dólares
Así que estoy sumando y restando flotantes en javascript, y necesito saber cómo tomar siempre el límite máximo de cualquier número que tenga más de 3 decimales. Por ejemplo: 3.19 = 3.19 3.191 = 3.20 3.00000001 = 3.01
Extraer parte decimal de un número de coma flotante en C
¿Cómo podemos extraer la parte decimal de un número de coma flotante y almacenar la parte decimal y la parte entera en dos variables enteras separadas?
¿Cómo convierto un flotante en un int en el objetivo C?
¡Pregunta total para novatos, pero esto me está volviendo loco! Estoy intentando esto: myInt = [myFloat integerValue];pero recibo un error que dice que esencialmente integerValue no funciona en flotantes. ¿Cómo lo hago?
Python: int (3.0) = 2
Observe el siguiente programa de Python def goo(y,x): y = float(y) x = float(x) yup = (y - x - 1) / x yup = str(yup) yup = yup.split(".") decimal = "." + yup[1] decimal = float(decimal) output = decimal / (1/x) print output print int(output) ...
¿Cómo puedo escribir una función de potencia yo mismo?
Siempre me preguntaba cómo puedo hacer una función que calcule la potencia (por ejemplo, 23) yo mismo. En la mayoría de los idiomas, estos se incluyen en la biblioteca estándar, principalmente comopow(double x, double y), pero ¿cómo puedo ...
Heisenbug de bucle infinito: se cierra si agrego una copia impresa
Este es mi código fuente: #include <iostream> #include <cmath> using namespace std; double up = 19.0 + (61.0/125.0); double down = -32.0 - (2.0/3.0); double rectangle = (up - down) * 8.0; double f(double x) { return (pow(x, 4.0)/500.0) - (pow(x, ...
Java: la máquina doble épsilon no es la x más pequeña, de modo que 1 + x! = 1?
Estoy tratando de determinar eldouble máquina épsilon [http://en.wikipedia.org/wiki/Machine_epsilon]en Java, usando la definición de ser el más pequeño representabledouble valorx tal que1.0 + x != 1.0, al igual que en C / C ++. Según wikipedia, ...
Problema de redondeo de Python
>>> num = 4.123456 >>> round(num, 3) # expecting 4.123 4.1230000000000002Estoy esperando 4.123 como resultado, ¿estoy equivocado?
Manipulando y comparando puntos flotantes en java
En Java, la aritmética de coma flotante no se representa con precisión. Por ejemplo este código java: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not 3.6"); ...
Precisión de coma flotante C ++ [duplicado]
Posible duplicado: Ejemplos de inexactitud de punto flotante [https://stackoverflow.com/questions/2100490/floating-point-inaccuracy-examples] double a = 0.3; std::cout.precision(20); std::cout << a << ...