Resultados de la búsqueda a petición "internal-representation"

7 la respuesta

int ((0.1 + 0.7) * 10) = 7 en varios idiomas. ¿Cómo prevenir esto?

Recientemente me encontré con un error / función en varios idiomas. Tengo un conocimiento muy básico sobre cómo se causa (y me gustaría una explicación detallada), pero cuando pienso en todos los errores que debo haber hecho a lo largo de los ...

1 la respuesta

¿Cómo representa R a NA internamente?

R parece apoyar una @ eficienNA valor en matrices de coma flotante. ¿Cómo lo representa internamente? Mi comprensión (tal vez defectuosa) es que las CPU modernas pueden realizar cálculos de coma flotante en hardware, incluido el manejo eficiente ...

17 la respuesta

¿Por qué preferir el complemento de dos en lugar de signo y magnitud para los números firmados?