Resultados de la búsqueda a petición "decimal"
Regex un número decimal con coma
Estoy teniendo problemas para encontrar la expresión regular correcta para los números decimales que incluyen el separador de coma.Encontré algunas otras pre...
¿Hay un límite en Javascript para los lugares decimales en grandes flotadores?
Estoy enfrentando el siguiente problema / comportamiento:
OverflowError: (34, 'Resultado demasiado grande')
Recibo un error de desbordamiento (OverflowError: (34, 'Resultado demasiado grande')Quiero calcular pi a 100 decimales aquí está mi código:
Eliminar 0s del final de un valor decimal [duplicar]
Esta pregunta ya tiene una respuesta aquí:Eliminar los ceros al final 16 respuestasTengo un valor decimal que tiene un número variable de dígitos después del
Representación binaria de un decimal .NET
Hola a todos, pregunta rápida: ¿Cómo funciona un .NETdecimal tipo obtener representado en binario en la memoria? Todos sabemos cómo se almacenan los números de coma flotante y, por lo tanto, las razones de la inexactitud de los mismos, pero no ...
¿Debo almacenar el precio como decimal o entero en Mysql?
Actualmente estoy usandodecimal para almacenar datos de precios (almacenar $ 4.2 como 4.20), pero parece tener algunas dificultades para comparar la igualdad, es decir, es necesario calcular la diferencia entre 2 números (abs(number1 - number 2) ...
¿Cómo soluciono este código Perl para que 1.1 + 2.2 == 3.3?
¿Cómo soluciono este código para que 1.1 + 2.2 == 3.3? ¿Qué está sucediendo realmente aquí que está causando este comportamiento? Estoy vagamente familiarizado con los problemas de redondeo y las matemáticas de coma flotante, pero pensé que solo ...
Convierta un punto decimal doble a fijo en C ++
Tengo una variable doble en C ++ y quiero imprimirla en la pantalla como un número de punto decimal fijo. Básicamente, quiero saber cómo escribir una función que tome un doble y un número de decimales e imprima el número en ese número de ...