Resultados da pesquisa a pedido "precision"
O que exatamente é o parâmetro de “resolução” do numpy float
Estou buscando um pouco mais de entendimento sobre o parâmetro "resolution" de um float numpy (acho que qualquer float definido por computador para esse assunto). Considere o seguinte script: import numpy as np a = np.finfo(10.1) print aRecebo ...
Como você arredonda um dobro no Dart para um determinado grau de precisão APÓS o ponto decimal?
Dado um dobro, quero arredondá-lo para um determinado número de pontos de precisãoapós o ponto decimal, semelhante à função round () do PHP. A coisa mais próxima que posso encontrar nos documentos do Dart é double.toStringAsPrecision (), mas ...
As diferenças na precisão dos cálculos nos modos single / multi-threaded (OpenMP)
Alguém pode explicar / entender os diferentes resultados do cálculo no modo single / multi-thread? Aqui está um exemplo de aprox. cálculo de pi: #include <iomanip> #include <cmath> #include <ppl.h> const int itera(1000000000); int main() { ...
A precisão do Math.log2 mudou no Chrome
Eu escrevi um programa JavaScript que calcula a profundidade de uma árvore binária com base no número de elementos. Meu programa está funcionando bem há meses, mas recentemente descobri uma diferença quando a página da web é visualizada no Chrome ...
Por que adicionar 0,1 várias vezes permanece sem perdas?
Eu conheço o0.1 o número decimal não pode ser representado exatamente com um número binário finito (explicação [http://www.exploringbinary.com/why-0-point-1-does-not-exist-in-floating-point/] ), tãodouble n = 0.1 perderá alguma precisão e não ...
Valores numéricos extremos em precisão de ponto flutuante em R
Alguém pode me explicar a seguinte saída. Eu sei que isso tem algo a ver com precisão de ponto flutuante, mas a ordem da magnitude (diferença 1e308) me surpreende. 0: alta precisão > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: muito impreciso > ...
Análise de precisão flutuante / dupla em 32 dígitos decimais
De um arquivo .c de outro cara, eu vi o seguinte: const float c = 0.70710678118654752440084436210485f;onde ele quer evitar o cálculo desqrt(1/2). Isso pode realmente ser armazenado de alguma forma comC/C++? Quero dizer, sem perder a precisão. ...
Como trabalhar com grandes números em R?
Gostaria de alterar a precisão em um cálculo de R. Por exemplo, gostaria de calcularx^6 comx = c(-2.5e+59, -5.6e+60). Para calcular, devo alterar a precisão em R, caso contrário, o resultado éInfe não sei como fazê-lo.
Precisão garantida da função sqrt em C / C ++
Todo mundo sabesqrt função demath.h/cmath em C / C ++ - retorna raiz quadrada de seu argumento. Claro, isso tem a ver com algum erro, porque nem todos os números podem ser armazenados com precisão. Mas tenho certeza de que o resultado tem alguma ...
Por que os números de ponto flutuante são imprecisos?
Por que alguns números perdem a precisão quando armazenados como números de ponto flutuante? Por exemplo, o número decimal9.2 pode ser expresso exatamente como uma razão de dois números decimais (92/10), os quais podem ser expressos exatamente ...