Resultados da pesquisa a pedido "floating-point-precision"
A conversão de Int para Float perde precisão para grandes números no Swift
XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...
Java - perda máxima de precisão em uma adição / subtração dupla
É possível estabelecer, ainda que grosso modo, qual seria a perda máxima de precisão ao lidar com dois
Qual é o sufixo C ++ para literais duplos longos?
Em C ++ (e C), um literal de ponto flutuante sem sufixo é padronizado comodouble, enquanto o sufixof implica umfloat. Mas qual é o sufixo para obter umalong double? Sem saber, eu definiria, por exemplo, const long double x = ...
A precisão dos dígitos decimais mais significativos é que pode ser convertida em binária e de volta em decimal sem perda de significância 6 ou 7.225?
Encontrei duas fórmulas de precisão diferentes para números de ponto flutuante. ⌊ (N-1) log10(2) ⌋ = 6 dígitos decimais(Precisão única) e N log10(2) ≈ 7.225 dígitos decimais(Precisão única) OndeN = 24Bits significativos (Precisão única) A ...
Representação binária exata de um duplo [duplicado]
Possible Duplicate: Flutuar para binário em C ++ [https://stackoverflow.com/questions/2746380/float-to-binary-in-c] Eu tenho uma var dupla muito pequena e, quando a imprimo, recebo -0. (usando C ++). Agora, para obter melhor precisão, tentei ...
Python: Encontre o índice do item mínimo na lista de carros alegóricos [duplicados]
Esta questão já tem uma resposta aqui:Obtendo o índice do item max ou min retornado usando max () / min () em uma lista 21 respostasComo posso encontrar o ín...
Qualquer risco de usar variáveis flutuantes como contadores de loop e seu incremento / decremento fracionário para condições não "=="?
É seguro usar floats como contadores de loops e aumentá-los / diminuí-los em quantidades fracionárias em cada iteração, como no programa aparentemente livre ...
comparação dupla e flutuante [duplicata]
Esta questão já tem uma resposta aqui:Comparando float e double 3 respostasDe acordo comesta postagem, ao comparar um float e um double, o float deve ser tra...
tamanho de duplo longo e precisão não combinando?
Considere o seguinte código C: