Resultados da pesquisa a pedido "floating-point"
Por que o Python mostra `0.2 + 0.1` como` 0.30000000000000004`? [duplicado]
Esta pergunta já tem uma resposta aqui: Alguém pode explicar isso: 0,2 + 0,1 = 0,30000000000000004? [duplicado] [/questions/7545015/can-someone-explain-this-0-2-0-1-0-30000000000000004] 2 respostasEu escrevi o seguinte código para gerar um ...
Converter String para Inteiro / Flutuante em Haskell?
data GroceryItem = CartItem ItemName Price Quantity | StockItem ItemName Price Quantity makeGroceryItem :: String -> Float -> Int -> GroceryItem makeGroceryItem name price quantity = CartItem name price quantity I want to create a `GroceryItem` ...
Representação textual exata de um IEEE "duplo"
Preciso representar um número de ponto flutuante duplo (64 bits) IEEE 754-1985 em um formato de texto legível por humanos, com a condição de que o formulário de texto possa ser analisado novamenteexatamente o mesmo número (bit a bit). Isso é ...
Por que (360/24) / 60 = 0 ... em Java
Estou tentando calcular (360/24) / 60. Continuo recebendo a resposta 0,0 quando devo obter 0,25 Em palavras: eu quero dividir 360 por 24 e depois dividir o resultado por 60 public class Divide { public static void main(String[] args){ float div ...
Por que existem tantos carros alegóricos na API do Android?
,O tipo de ponto flutuante padrão em Java é o dobro. Se você codificar uma constante como2.5 no seu programa, o Java faz o dobro automaticamente. Quando você faz uma operação em flutuadores ou entradas que podem se beneficiar com mais precisão, o ...
compreendendo variáveis de ponto flutuante
Há algum problema, eu não consigo entender de qualquer maneira. olhe para este código, por favor <script type="text/javascript"> function math(x) { var y; y = x*10; alert(y); } </script> <input type="button" onclick="math(0.011)">O que deve ser ...
Valores numéricos extremos em precisão de ponto flutuante em R
Alguém pode me explicar a seguinte saída. Eu sei que isso tem algo a ver com precisão de ponto flutuante, mas a ordem da magnitude (diferença 1e308) me surpreende. 0: alta precisão > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: muito impreciso > ...
Usando de maneira confiável dobra como chaves std :: map
Um dos meus colegas de trabalho recentemente criou um truque interessante para usar de forma confiável números de ponto flutuante como chaves em algo como umstd::map em C ++. Supondo que você queira usar algum valor de ponto flutuante ...
Valores flutuantes idênticos comparados como desiguais
Eu estava trabalhando em algumas perguntas sobre "determinar a saída" em C. Me deparei com essa pergunta que parecia simples, mas depois de executar o código, fiquei confusa. A saída que eu esperava era "True". No entanto, ao executar, era ...
Por que difere a precisão do ponto flutuante em C # quando separados por parênteses e quando separados por instruções?
Estou ciente de como a precisão do ponto flutuante funciona nos casos regulares, mas me deparei com uma situação estranha no meu código C #. Por que result1 e result2 não são exatamente o mesmo valor de ponto flutuante aqui? const float A; // ...