Resultados de la búsqueda a petición "floating-point"
La conversión de Int a Float pierde precisión para grandes números en Swift
XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...
Float32 a Float16
¿Alguien puede explicarme cómo convierto un valor de coma flotante de 32 bits en un valor de coma flotante de 16 bits? (s = signo e = exponente ym = mantisa) Si la flotación de 32 bits es 1s7e24m Y el flotante de 16 bits es 1s5e10m Entonces, ...
Convertir lista o matriz numpy de elemento único para flotar en python
Tengo una función que puede aceptar una lista o una matriz numpy. En cualquier caso, la lista / matriz tiene un solo elemento (siempre). Solo necesito devolver un flotador. Entonces, por ejemplo, podría recibir: list_ = [4]o la matriz ...
Representación de valores flotantes en Java
Mira las tres líneas de código a continuación. float f = 1; float g = 1.1; float h = 1.1f;La segunda línea tiene errores de compilación, mientras que las otras líneas no tienen errores de compilación. La primera línea funciona bien sin el sufijo ...
Ruby Big Comprobación de cordura decimal (coma flotante newb)
Es mi entendimiento correcto que con RubyBigDecimal los tipos (incluso con precisión y longitudes de escala variables) deberían calcular con precisión o debería anticipar travesuras de coma flotante? Todos mis valores dentro de una aplicación ...
igualdad de coma flotante en Python y en general
Tengo un código que se comporta de manera diferente dependiendo de si reviso un diccionario para obtener factores de conversión o si los uso directamente. Se imprimirá el siguiente código1.0 == 1.0 -> False Pero si reemplazasfactors[units_from] ...
Implementación del algoritmo Payne Hanek en C
Me cuesta entender cómo IMPLEMENTAR el algoritmo de reducción de rango publicado por Payne y Hanek (reducción de rango para funciones trigonométricas) He visto que hay esta ...
¿Cuál es el significado de "0" como prefijo en un literal de coma flotante?
El uso de "0" (cero) como prefijo en un literal entero cambia su base a octal. Esta es la razón por System.out.println(010);imprimirá8. Pero usando "F" como sufijo System.out.println(010F);lo hará flotar perdiendo base octal (volviendo ...
¿La precisión de coma flotante es mutable o invariante?
Sigo recibiendo respuestas mixtas de si los números de coma flotante (es decir,float, doubleolong double) tienen uno y solo un valor de precisión, o tienen un valor de precisión que puede variar. Un tema llamadoflotante contra doble ...
¿Es la precisión de dígitos decimales más significativa que se puede convertir a binario y volver a decimal sin pérdida de significación 6 o 7.225?
Me he encontrado con dos fórmulas de precisión diferentes para números de punto flotante. ⌊ (N-1) registro10(2) ⌋ = 6 dígitos decimales(Precisión simple) y N log10(2) ≈ 7.225 dígitos decimales(Precisión simple) DóndeN = 24Bits significativos ...