Resultados de la búsqueda a petición "decimal"
¿La precisión de coma flotante es mutable o invariante?
Sigo recibiendo respuestas mixtas de si los números de coma flotante (es decir,float, doubleolong double) tienen uno y solo un valor de precisión, o tienen un valor de precisión que puede variar. Un tema llamadoflotante contra doble ...
¿Es la precisión de dígitos decimales más significativa que se puede convertir a binario y volver a decimal sin pérdida de significación 6 o 7.225?
Me he encontrado con dos fórmulas de precisión diferentes para números de punto flotante. ⌊ (N-1) registro10(2) ⌋ = 6 dígitos decimales(Precisión simple) y N log10(2) ≈ 7.225 dígitos decimales(Precisión simple) DóndeN = 24Bits significativos ...
Convertir un valor decimal a un hexadecimal de coma flotante de 32 bits
Para una utilidad simple en la que estoy trabajando, necesito un script que convierta un valor decimal dado en un valor hexadecimal de coma flotante de 32 bits. Por ejemplo, sé que 1 es 3F800000 y 100 es 42C80000, sin embargo, no sé cómo devolver ...
¿Cómo mostrar siempre 3 lugares decimales en DataTables en R Shiny? [cerrado]
Necesito mostrar los datos en mi tabla con 3 decimales, pero resulta que no muestra 3 decimales cuando ejecuto mi aplicación. Aunque cuando trato de interactuar con él, muestra 3 decimales. ¿Hay alguna forma de hacer esto?
¿Cómo enviar un código USSD que contiene coma flotante decimal (.)?
Necesito enviar un código USSD que contenga un valor doble, que represente el saldo de la cuenta a transferir. Este valor está compuesto por un número entero y, opcionalmente, un separador decimal y 2 dígitos más. Mi código se ve de la siguiente ...
¿Cuál es un buen mapeo de .NET decimal a SQL Server decimal?
Tengo que interactuar un código C # con SQL Server y quiero tener exactamente tanta precisión al almacenar un valor en la base de datos como lo hago con mi código C #. Yo uso uno de .NETdecimal escriba para un valor. ¿Qué tipo de datos / ...
¿Cómo convertir decimales a fracciones?
Lo que necesito para convertir decimal a fracciones. Es fácil de convertir a 10 pies. 1.5 => 15/10Esto se puede hacer a través de este código: public class Rational { private int num, denom; public Rational(double d) { String s = ...
Flotación de Python a conversión decimal
Python Decimal no admite ser construido desde flotante; se espera que primero tengas que convertir flotante a una cadena. Esto es muy inconveniente ya que los formateadores de cadena estándar para flotante requieren que especifique el número de ...
¿Es un doble realmente inadecuado para el dinero?
Siempre digo en c # que una variable de tipo double no es adecuada para el dinero. Todas las cosas raras pueden suceder. Pero parece que no puedo crear un ejemplo para demostrar algunos de estos problemas. ¿Alguien puede dar ...
convertir cadena HEX a decimal en arduino
Tengo una cadena hexadecimal como esta: "0005607947" y quiero convertirla a un número decimal, lo pruebo eneste sitio [http://www.rapidtables.com/convert/number/hex-to-decimal.htm]y se convierte correctamente al número decimal y la respuesta es: ...