Resultados da pesquisa a pedido "precision"
Definir precisão para um número flutuante em PHP
Eu recebo um número do banco de dados e esse número pode ser
Defina a precisão de exibição de um flutuador no Ruby
É possível definir a precisão de exibição de um flutuador no Ruby? Algo como: z = 1/3 z.to_s #=> 0.33333333333333 z.to_s(3) #=> 0.333 z.to_s(5) #=> 0.33333Ou eu tenho que substituir oto_s método deFloat?
Por que os números de ponto flutuante são imprecisos?
Por que alguns números perdem a precisão quando armazenados como números de ponto flutuante? Por exemplo, o número decimal9.2 pode ser expresso exatamente como uma razão de dois números decimais (92/10), os quais podem ser expressos exatamente ...
Precisão garantida da função sqrt em C / C ++
Todo mundo sabesqrt função demath.h/cmath em C / C ++ - retorna raiz quadrada de seu argumento. Claro, isso tem a ver com algum erro, porque nem todos os números podem ser armazenados com precisão. Mas tenho certeza de que o resultado tem alguma ...
Por que esse cálculo de rolamentos é tão impreciso?
É mesmo assim impreciso? Reimplantei a coisa toda com precisão arbitrária do Apfloat e não fez diferença com a qual eu deveria saber! public static double bearing(LatLng latLng1, LatLng latLng2) { double deltaLong = toRadians(latLng2.longitude - ...
Como trabalhar com grandes números em R?
Gostaria de alterar a precisão em um cálculo de R. Por exemplo, gostaria de calcularx^6 comx = c(-2.5e+59, -5.6e+60). Para calcular, devo alterar a precisão em R, caso contrário, o resultado éInfe não sei como fazê-lo.
Análise de precisão flutuante / dupla em 32 dígitos decimais
De um arquivo .c de outro cara, eu vi o seguinte: const float c = 0.70710678118654752440084436210485f;onde ele quer evitar o cálculo desqrt(1/2). Isso pode realmente ser armazenado de alguma forma comC/C++? Quero dizer, sem perder a precisão. ...