Resultados de la búsqueda a petición "floating-point"
En Python, los flotadores pequeños tienden a cero
Tengo un Clasificador Bayesiano programado en Python, el problema es que cuando multiplico las probabilidades de las características obtengo valores flotantes MUY pequeños como 2.5e-320 o algo así, y de repente se convierte en 0.0. Obviamente, el ...
¿Cómo redondeo este número binario al par más cercano?
Tengo esta representación binaria de0.1: 0.00011001100110011001100110011001100110011001100110011001100110Necesito redondearlo al más cercano incluso para poder almacenarlo en el punto flotante de doble precisión. Parece que no puedo entender ...
¿Cuál es la precisión de los cálculos de coma flotante en Scilab?
Nota: He usado la etiqueta Matlab en caso de que mantengan la misma precisión. (Por lo que puedo decir, ambos programas son muy similares). Como seguimiento de una pregunta anterior mía ...
Precisión aritmética con dobles en Matlab
Tengo algunos problemas para entender cómo la precisión de estos dobles afecta el resultado de las operaciones aritméticas en Matlab. Pensé que, dado que tanto a & b son dobles, podrían realizar operaciones con esa precisión. Me doy cuenta de que ...
¿Cómo soluciono este código Perl para que 1.1 + 2.2 == 3.3?
¿Cómo soluciono este código para que 1.1 + 2.2 == 3.3? ¿Qué está sucediendo realmente aquí que está causando este comportamiento? Estoy vagamente familiarizado con los problemas de redondeo y las matemáticas de coma flotante, pero pensé que solo ...
Función redonda (hoja de trabajo uno) en Excel
Con Excel 2013, escribir esto en dos celdas arroja resultados diferentes. =ROUND((10.45-10.00)/1,1) = 0.4pero =ROUND(0.45/1,1) = 0.5Y no tengo idea de por qué este es el caso. Alguien tiene una explicación?
extrayendo mantisa y exponente del doble en c #
¿Hay alguna forma directa de obtener la mantisa y el exponente de un doble en c # (o .NET en general)? encontréeste ejemplo [http://www.yoda.arachsys.com/csharp/DoubleConverter.cs] usando google, pero no estoy seguro de cuán robusto sería. ...
C error del compilador (aritmética de coma flotante)?
#include<stdio.h> int main() { double fract=0; int tmp; //scanf("%lf",&fract); fract=0.312; printf("%lf",fract); printf("\n\n"); while(fract>0){ fract*=(double)10; printf("%d ",(int)fract); fract-=(int)fract; } getch(); return 0; }este código ...
¿Cuál es la mejor manera de resumir muchos números de coma flotante?
Imagine que tiene una gran variedad de números de coma flotante, de todo tipo de tamaños. ¿Cuál es la forma más correcta de calcular la suma, con el menor error? Por ejemplo, cuando la matriz se ve así: [1.0, 1e-10, 1e-10, ... 1e-10.0]y sumas de ...
¿Cómo convertir número flotante a binario?
¿Alguien puede decirme cómo puedo convertir este número flotante: 12.25 a binario? Sé cómo convertir el "12" pero no el 0.25 Cualquier ayuda es muy apreciada. Gracias