Resultados da pesquisa a pedido "floating-accuracy"

3 a resposta

Por que o GDB avalia aritmética de ponto flutuante de maneira diferente do C ++?

4 a resposta

Precisão de ponto flutuante de C ++ em loops while

6 a resposta

Grandes números erroneamente arredondados em JavaScript

Veja este código:

3 a resposta

Precisão de flutuação com números específicos

2 a resposta

Encontrar o valor de ponto flutuante mais próximo de um valor inteiro específico em C ++?

1 a resposta

Posso usar pandas.dataframe.isin () com um parâmetro de tolerância numérica?

Revisei os posts a seguir com antecedência. Existe uma maneira de usar DataFrame.isin () com um fator de aproximação ou um valor de tolerância? Ou existe outro método que poderia? Filtrar linhas do quadro de dados se o valor na coluna estiver em ...

4 a resposta

Exponenciação inteira no OCaml

Existe uma função para exponenciação de números inteiros no OCaml? ** é apenas para carros alegóricos. Embora pareça ser mais preciso, não existe a possibili...

4 a resposta

Por que o valor do ponto flutuante de 4 * 0,1 fica bonito no Python 3, mas 3 * 0.1 não?

Eu sei que a maioria dos decimais não tem uma representação exata de ponto flutuante (A matemática do ponto flutuante está quebrada? [https://stackoverflow.com/questions/588004]) Mas não vejo por que4*0.1 é impresso bem como0.4, mas3*0.1 não é, ...

4 a resposta

Python float - str - float estranheza

5 a resposta

Como faço para definir a precisão do ponto flutuante em Perl?

Existe uma maneira de definir a precisão de ponto flutuante do script Perl (para 3 dígitos), sem ter que alterá-lo especificamente para cada variável?Algo se...