Resultados da pesquisa a pedido "precision"
matlab ec diferem com a função cos
Tenho um programa implementado no matlab e o mesmo programa em c, e os resultados difere Estou um pouco confuso que a função cos não retorne exatamente o mesmo resultad Uso o mesmo computador, Intel Core 2 Duo e 8 bytes de tipo de dados duplo ...
Corrigir “resumo” em R com o número apropriado de dígitos de precisão
A simple pergunta em umsimple função aparentemente inocente:summary. Até eu vi resultados para Min e Max que estavam fora do intervalo dos meus dados, eu não sabia quesummary tem umdigits argumento para especificar a precisão dos resultados de ...
Precisão Matlab: subtração simples não é zero
Calculo esta soma simples no Matlab: 2*0.04-0.5*0.4^2 = -1.387778780781446e-017 mas o resultado não é zero. O que eu posso fazer
Qual é a diferença entre uma operação de ponto flutuante de precisão simples e dupl
Qual é a diferença entre uma operação de ponto flutuante de precisão única e operação flutuante de precisão dupla? Estou especialmente interessado em termos práticos em relação aos consoles de videogame. Por exemplo, o Nintendo 64 tem um ...
Truncar um número de ponto flutuante sem arredondar para cima
Tenho um número de ponto flutuante que quero truncar para 3 lugares, mas não quero arredonda Por exemplo, converta1.0155555555555555 para1.015 (não1.016). Como eu faria isso em Ruby?
bjective-C - Como aumentar a precisão de um número flutuante
Alguém pode me mostrar o caminho para definir a precisão de um número flutuante no comprimento desejado. Digamos que eu tenho um número 2504.6. Como você vê, a precisão aqui é apenas 1. Quero defini-la como seis. Preciso disso porque comparo ...
Existe uma maneira confiável no JavaScript de obter o número de casas decimais de um número arbitrári
É importante observar que não estou procurando uma função de arredondamento. Estou procurando uma função que retorna o número de casas decimais na representação decimal simplificada de um número arbitrário. Ou seja, temos ...
Precisão em flutuadores C
Geralmente dizemos que um flutuador tem precisão de 6 dígitos após o ponto decimal. Mas se armazenarmos um grande número da ordem de 10 ^ 30, não obteremos 6 dígitos após o ponto decimal. Então, é correto dizer que os carros alegóricos têm uma ...