Resultados da pesquisa a pedido "floating-accuracy"
(Int) pow (n, m) estará errado para alguns números inteiros positivos n, m?
Assumindon em são inteiros positivos e nm está dentro do intervalo de um número inteiro,(int)pow(n,m) já deu uma resposta errada? Eu tentei muitosn param=2 e ainda não obtive respostas erradas.
O que exatamente é o parâmetro de “resolução” do numpy float
Estou buscando um pouco mais de entendimento sobre o parâmetro "resolution" de um float numpy (acho que qualquer float definido por computador para esse assunto). Considere o seguinte script: import numpy as np a = np.finfo(10.1) print aRecebo ...
Média de inconsistência de flutuação
O select retorna à direita em 23.000 linhas A exceção retornará entre 60 a 200 linhas (e não as mesmas linhas) A exceção deve retornar 0, pois é selecione a exceção selecione uma PK: [docSVenum1]. [EnumID], [docSVenum1]. [ValueID], ...
A função pow () do C conforme o arquivo de cabeçalho <math.h> não está funcionando corretamente
Vejo que, para o código a seguir produz o resultado abaixo, alguma idéia de por que a saída é assim? #include <stdio.h> #include <math.h> int main() { int i = 0; for(i = 0; i < 10; i++) { printf("%d\t\t\t%d\t\t\t", i, (int)pow(10, i)); ...
Computando com eficiência (a - K) / (a + K) com precisão aprimorada
Em vários contextos, por exemplo, para a redução de argumentos para funções matemáticas, é necessário calcular(a - K) / (a + K), Ondea é um argumento variável positivo eK é uma constante. Em muitos casos,K é um poder de dois, que é o caso de uso ...
Precisão perdida ao usar read_csv em pandas
Eu tenho arquivos do formato abaixo em um arquivo de texto que estou tentando ler em um dataframe do pandas. 895|2015-4-23|19|10000|LA|0.4677978806|0.4773469340|0.4089938425|0.8224291972|0.8652525793|0.6829942860|0.5139162227| Como você pode ...
PHP - Precisão numérica flutuante [duplicado]
Esta pergunta já tem uma resposta aqui: A matemática do ponto flutuante está quebrada? [/questions/588004/is-floating-point-math-broken] 28 respostas$a = '35'; $b = '-34.99'; echo ($a + $b);Resultados em 0.009999999999998 O que há com isso? Eu ...
stranho erro de imprecisão em c [duplicado]
Esta pergunta já tem uma resposta aqui: A matemática do ponto flutuante está quebrada? [/questions/588004/is-floating-point-math-broken] 28 respostasoje aconteceu-me uma coisa estranha, quando tento compilar e executar a saída deste código não ...
idando com precisão de flutuação em Javascript [duplicado]
Esta pergunta já tem uma resposta aqui: Como lidar com a precisão do número de ponto flutuante em JavaScript? [/questions/1458633/how-to-deal-with-floating-point-number-precision-in-javascript] 34 respostas Tenho uma grande quantidade de ...
Ruby: a conversão de float para número inteiro em ruby produz resultados estranh
ree-1.8.7-2010.02 :003 > (10015.8*100.0).to_i => 1001579 ree-1.8.7-2010.02 :004 > 10015.8*100.0 => 1001580.0 ree-1.8.7-2010.02 :005 > 1001580.0.to_i => 1001580 @ruby 1.8.7 produz o mesmo. Alguém sabe como erradicar essa heresia? =)