Resultados de la búsqueda a petición "floating-point"
Detalles de la implementación del hardware del divisor de punto flotante
¿Estoy tratando de implementar un divisor de hardware de punto flotante de 32 bits en el hardware y me pregunto si puedo obtener alguna sugerencia en cuanto ...
Número máximo de dígitos decimales que pueden afectar a un doble
Considere las representaciones decimales de la forma d1.d2d3d4d5 ... dnExxx donde xxx es un exponente arbitrario y tanto d1 como dn son distintos de cero.El ...
No obteniendo los datos exactos al invertir FFT
Está bien, lo que estoy tratando de lograr es simple. Aplique FFT en algunos datos aleatorios y luego aplique el algoritmo inverso en la salida para recupera...
Cómo arreglar este algoritmo de raíz cuadrada de punto flotante
Estoy tratando de calcular la raíz cuadrada de punto flotante de 32 bits IEEE-754 de varias entradas, pero para una entrada en particular el algoritmo a cont...
Seleccionando números de punto flotante en forma decimal
Tengo un pequeño número en una tabla de PostgreSQL:
El producto puntual de dos vectores de punto flotante de precisión simple produce resultados diferentes en el núcleo CUDA que en el host
Mientras depuraba un código CUDA, comparaba con un código de CPU equivalente usando
¿Hay un límite en Javascript para los lugares decimales en grandes flotadores?
Estoy enfrentando el siguiente problema / comportamiento: