Resultados da pesquisa a pedido "precision"
Decimais de precisão arbitrária em C # [duplicado]
Possíveis duplicatas: Inteiros grandes em c # [https://stackoverflow.com/questions/176775/big-integers-in-c] Dígitos decimais significativos ilimitados em C # (precisão arbitrária) sem ...
Ordem das operações para maximizar a precisão
Estou usando carros alegóricos para estas operações: Qual destes dois é mais preciso? (a * b) / cou (a / c) * bIsso importa ou depende da situação? Em caso afirmativo, qual devo escolher em que casos?
“Novo BigDecimal (13.3D)” resulta em imprecisos “13.3000000000000007105 ..”?
Como é que o JavaBigDecimal pode ser tão doloroso? Double d = 13.3D; BigDecimal bd1 = new BigDecimal(d); BigDecimal bd2 = new BigDecimal(String.valueOf(d)); System.out.println("RESULT 1: "+bd1.toString()); System.out.println("RESULT 2: ...
Por que meu dobro pode conter um valor abaixo do epsilon da máquina?
Eu estava resolvendo uma equação usando precisão dupla e obtive-7.07649e-17 como uma solução em vez de0. Concordo que está perto o suficiente para dizer que é igual, masEu li que a máquina epsilon para o tipo duplo C ++ ...
Aritmética de alta precisão em Python e / ou C / C ++?
Resumo: Qual pacote Python ou C-Library é a melhor opção para operações aritméticas de precisão muito alta? Eu tenho algumas funções que convertem dias fracionários (0.0-0.99999..) para um formato legível por humanos (horas, minutos, segundos; ...
Defina a precisão de exibição de um flutuador no Ruby
É possível definir a precisão de exibição de um flutuador no Ruby? Algo como: z = 1/3 z.to_s #=> 0.33333333333333 z.to_s(3) #=> 0.333 z.to_s(5) #=> 0.33333Ou eu tenho que substituir oto_s método deFloat?
Por que os números de ponto flutuante são imprecisos?
Por que alguns números perdem a precisão quando armazenados como números de ponto flutuante? Por exemplo, o número decimal9.2 pode ser expresso exatamente como uma razão de dois números decimais (92/10), os quais podem ser expressos exatamente ...
Precisão garantida da função sqrt em C / C ++
Todo mundo sabesqrt função demath.h/cmath em C / C ++ - retorna raiz quadrada de seu argumento. Claro, isso tem a ver com algum erro, porque nem todos os números podem ser armazenados com precisão. Mas tenho certeza de que o resultado tem alguma ...
Por que esse cálculo de rolamentos é tão impreciso?
É mesmo assim impreciso? Reimplantei a coisa toda com precisão arbitrária do Apfloat e não fez diferença com a qual eu deveria saber! public static double bearing(LatLng latLng1, LatLng latLng2) { double deltaLong = toRadians(latLng2.longitude - ...
Como trabalhar com grandes números em R?
Gostaria de alterar a precisão em um cálculo de R. Por exemplo, gostaria de calcularx^6 comx = c(-2.5e+59, -5.6e+60). Para calcular, devo alterar a precisão em R, caso contrário, o resultado éInfe não sei como fazê-lo.