Resultados de la búsqueda a petición "floating-point"
flotador max representado en IEEE 754
Me pregunto si el flotador máximo representado en IEEE 754 es:
Estándar IEEE-754 en NVIDIA GPU (sm_13)
Si realizo una operación de flotación (precisión simple) en un host y un dispositivo (GPU arch sm_13), ¿serán diferentes los valores?
¿Cómo puedo establecer manualmente el valor de bit de un flotador que equivale a NaN?
Estoy tratando de realizar algunas pruebas con conversiones y castings de flotadores a otros tipos y quiero establecer mi variable flotante en diferentes val...
Comportamiento extraño de Javascript: adición de punto flotante que da la respuesta incorrecta [duplicar]
Posible duplicado:¿Está rota la matemática de JavaScript?Esto parece realmente estúpido, pero cuando se ejecuta esto, se mostrará7.300000000000001 en lugar d...
¿Es una buena idea usar el NaN de coma flotante IEEE754 para los valores que no están establecidos?
¿Es una buena idea usar IEEE754 de punto flotante NaN (no un número) para los valores que no están definidos por razones no matemáticas?En nuestro caso, aún ...
¿Por qué necesita una opción de compilador `-lm` explícita [duplicar]
Posible duplicado:gcc: ¿por qué se necesita la marca -lm para vincular la biblioteca matemática?En términos generales, para usar cualquiera de las funciones ...
¿Cómo guardo un número de coma flotante en 2 bytes?
Sí, soy consciente del estándar de media precisión IEEE-754, y sí, soy consciente del trabajo realizado en el campo. En pocas palabras, estoy tratando de gua...
¿Cómo convierto Int / Decimal a flotar en C #?
¿Cómo se convierte uno de un int o un decimal a un flotador en C #?Necesito usar un flotador para el control de un tercero, pero no los uso en mi código, y n...
¿Cómo calcular dígitos decimales de precisión en función del número de bits?
Estoy aprendiendo sobre formatos de punto flotante (IEEE). En el formato de punto flotante de precisión simple, se menciona que la mantisa tiene 24 bits y, p...
¿El tipo de datos doble o flotante no se agrega correctamente en un bucle?
En un bucle, estoy agregando 0.10 hasta que alcance el # deseado y obtengo el índice. Este es mi código: