Resultados de la búsqueda a petición "floating-point"
Acerca de la precisión de coma flotante: ¿por qué los números de iteración no son iguales?
Hay dos programas similares de matlab, uno itera 10 veces mientras que otro itera 11 veces. Uno i = 0; x = 0.0; h = 0.1; while x < 1.0 i = i + 1; x = i * h; disp([i,x]); end Otro i = 0; x = 0.0; h = 0.1; while x < 1.0 i = i + 1; x = x + h; ...
¿Buena manera de hacer hash un vector flotante?
Soy consciente de todos los problemas involucrados en la comparación de carrozas. Esta es exactamente la razón de esta pregunta. Estoy buscando crear una tabla hash rápida para valores que son vectores 3D (3 flotantes - x, y, z). Se puede ...
Por qué la conversión de flotante a varchar se redondea en SQL Server
Siguiendo sql declare @a as float, @b as float select @a=1.353954 , @b=1.353956 select CAST(@a as VARCHAR(40)) AS a_float_to_varchar , CAST(@b as VARCHAR(40)) AS b_float_to_varcharresultados en a_float_to_varchar b_float_to_varchar ...
generación de números aleatorios entre dos flotadores
Estoy tratando de generar un número aleatorio entre dos flotadores (el máximo aumenta a la mitad) esto es lo que tengo hasta ahora pero no funciona //range NSString *minString = [dict objectForKey:@"min"]; float minRange = [minString ...
¿Por qué un tipo de coma flotante C modifica la entrada real de 125.1 a 125.099998 en la salida?
Escribí el siguiente programa: #include<stdio.h> int main(void) { float f; printf("\nInput a floating-point no.: "); scanf("%f",&f); printf("\nOutput: %f\n",f); return 0; } Estoy en Ubuntu y usé GCC para compilar el programa anterior. Aquí está ...
Value of sine 180 saldrá como 1.22465e-16
Quiero implementar una calculadora seno y coseno en ios4: if([operation isEqual:@"sin"]){ operand = (operand*M_PI/180.0); operand=sin(operand); } El código me da la respuesta correcta para valores del 0 al 90. Cuando doy valor de 180, ...
Python float to int conversion
ásicamente, estoy convirtiendo un flotante en un int, pero no siempre tengo el valor esperado. Aquí está el código que estoy ejecutando: x = 2.51 print("--------- 251.0") y = 251.0 print(y) print(int(y)) print("--------- 2.51 * 100") y = x * ...
Cómo suprimo la notación científica en Python?
Aquí está mi código: x = 1.0 y = 100000.0 print x/yMi cociente se muestra como1.00000e-05 ¿Hay alguna forma de suprimir la notación científica y hacer que se muestre como0.00001? Voy a usar el resultado como una cadena.
Convertir doble para flotar sin Infinito
Estoy convirtiendo el doble en flotante usando el viejofloat myFloat = (float)myDouble. Sin embargo, esto a veces resulta en "Infinito", lo que no es bueno para el procesamiento posterior que estoy haciendo. Estoy de acuerdo con la ...
Estándar para el seno de números muy grandes
Estoy escribiendo una implementación de punto flotante (casi) compatible con IEEE 854 en TeX (que solo es compatible con enteros de 32 bits). Esta norma solo especifica el resultado de+, -, *, /, comparación, resto ysqrt: para esas operaciones, ...