Resultados de la búsqueda a petición "floating-point"
Assert.AreEqual () con System.Double siendo realmente confuso
Descripció ¡Este no es un ejemplo del mundo real! Por favor no sugiera usardecimal o algo mas Solo pregunto esto porque realmente quiero saber por qué sucede esto. Hace poco vi la increíble transmisión por Internet de TekpubMastering C # ...
Trabajando con flotadores y enteros
He creado un programa similar a un cajero automático que retiene el dinero en la cuenta de una persona. Cuando la persona realiza un retiro, resta el retiro de la cuenta junto con un recargo de .50. El problema que tengo es trabajar con enteros ...
BigDecimal Error
En Java, he definido k comodouble k=0.0; Estoy tomando datos de la base de datos y agregando los mismos usandowhile lazo while(rst.next()) { k = k + Double.parseDouble(rst.getString(5)); }NOTE: In database, I have values as 125.23, 458.45, ...
Comportamiento extraño al lanzar un flotante a int en C #
Tengo el siguiente código simple: int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1 y speed2 deberían tener el mismo valor, pero de hecho, tengo: speed1 = 61 speed2 = 62 Sé que probablemente debería usar ...
Cómo implementar la división de punto flotante en binario sin hardware de división y sin hardware de punto flotante
Me pregunto cómo implementar la división de punto flotante de precisión simple IEEE-754 de 32 bits en binario sin hardware de división y sin hardware de punto flotante. Tengo hardware de desplazamiento, sumar, restar y multiplicar. Ya he ...
Android / SQLite: Guardar / Recuperar datos de tipo REAL
Tengo un SQLDB con tabla de campo REAL. En mi diseño, he establecido su tamaño de campo para permitir solo 8 + 2 dígitos. En mi objeto, he usado el tipo de datos del campo como "flotante". qs[0] = "CREATE TABLE " + RELATION_TABLE_NAME + "(id ...
Utilizando flotantes con sprintf () en C @ incrusta
Chicos, quiero saber sifloatas variables @ se pueden usar ensprintf() función. Me gusta, si escribimos: sprintf(str,"adc_read = %d \n",adc_read);dóndeadc_read es una variable entera, almacenará la cadena "adc_read = 1023 \n" instr (asumiendo ...
Flotante / doble precisión en los modos de depuración / liberación
¿Las operaciones de punto flotante C # / .NET difieren en precisión entre el modo de depuración y el modo de liberación?
Cómo verificar dependencias de flotadores
Quiero determinar (en c ++) si un número flotante es el inverso multiplicativo de otro número flotante. El problema es que tengo que usar una tercera variable para hacerlo. Por ejemplo este código: float x=5,y=0.2; if(x==(1/y)) cout<<"They are ...
Convertir flotante al doble sin perder precisión
Tengo un flotador primitivo y necesito como doble primitivo. Simplemente lanzar el flotador al doble me da una precisión extra extraña. Por ejemplo float temp = 14009.35F; System.out.println(Float.toString(temp)); // Prints 14009.35 ...