Resultados da pesquisa a pedido "floating-point"
print flutua em n casas decimais, incluindo zeros à direita
Preciso imprimir ou converter um número flutuante em uma sequência de 15 casas decimais, mesmo se o resultado tiver muitos 0s à direita, por exemplo: 1.6 passa a 1.6000000000000000 Eu tentei o round (6.2,15), mas ele retornou ...
epresentação binária de um número no Matl
xiste uma função Matlab que retorna a representação binária de um número flutuant
Convertendo exceções de ponto flutuante em exceções de C ++
possível converter exceções de ponto flutuante (sinais) em exceções de C ++ no x86 Linu Isso é para fins de depuração, portanto, não é possível portar ou imperfeição (por exemplo, se não for 100% garantido que todos os destruidores ...
Como subtrair números IEEE 754?
Como subtrair números IEEE 754? Por exemplo: 0,546875 - 32,875 ... -> 0,546875 é 0 01111110 10001100000000000000000 no IEEE-754 -> -32,875 é 1 10000111 01000101111000000000000 em IEEE-754 Então, como faço a subtração? Eu sei que tenho que ...
arredonde um número de ponto flutuante para o próximo valor inteiro em java
omo posso arredondar um número de ponto flutuante para o próximo valor inteiro em Java? Suponha que 2,1 -> 3 3,001 -> 4 4,5 -> 5 7,9 -> 8
Qual é a maneira mais rápida de gerar um número inteiro aleatório em javascrip
Normalmente é assim que você obtém um número aleatório em javascrip Math.random(); No entanto, esse método parece ser ineficiente quando se trata de gerar números inteiros aleatório Primeiramente, a função aleatória precisa gerar um decimal ...
Casting de um resultado para flutuar no método retornando resultado de alterações de flutuação
Por que esse código imprimeFalse no .NET 4? Parece que algum comportamento inesperado está sendo causado pelo elenco explícit Gostaria de uma resposta além de "ponto flutuante é impreciso" ou "não faça isso" float a(float x, float y) { return ...
Assert.AreEqual () com System.Double ficando realmente confuso
DescriçãEste não é um exemplo do mundo real! Por favor, não sugira usardecimal ou outra coisa Só estou perguntando isso, porque realmente quero saber por que isso acontec Vi recentemente o incrível Webcast Tekpub Mestre em C # 4.0 com Jon ...
Trabalhando com flutuadores e números inteiros
Criei um programa semelhante ao caixa eletrônico que guarda o dinheiro na conta de uma pessoa. Quando a pessoa faz um saque, subtrai o saque da conta juntamente com uma sobretaxa de .50. O problema que estou tendo é trabalhar com ...
BigDecimal Error
Em Java, eu defini k comodouble k=0.0; Estou pegando dados do banco de dados e adicionando os mesmos usandowhile ciclo while(rst.next()) { k = k + Double.parseDouble(rst.getString(5)); }NOTE: In database, I have values as 125.23, 458.45, ...