Resultados da pesquisa a pedido "floating-accuracy"
mean de pandas e numpy diferem
Tenho um MEMS IMU no qual coleciono dados e estou usando pandas para obter alguns dados estatísticos. Há 6 flutuadores de 32 bits coletados a cada ciclo. As taxas de dados são fixadas para uma determinada execução de coleta. As taxas de dados ...
Precisão de ponto flutuante ao usar max () @ do Pyth
Por quê >>> max(2, 2.01) 2.0099999999999998
Is floating point math broken
Considere o seguinte código: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004Por que essas imprecisões acontecem?
idando com problemas de precisão em números de ponto flutuan
Eu queria saber se existe uma maneira de superar um problema de precisão que parece ser o resultado da representação interna da minha máquina de números de ponto flutuante: Por uma questão de clareza, o problema está resumido em: // str is ...
Por que preciso de 17 dígitos significativos (e não 16) para representar um duplo?
lguém pode me dar um exemplo de número de ponto flutuante (precisão dupla), que precisa de mais de 16 dígitos decimais significativos para representá-l Encontrei em esta ...
Entendendo erros de representação de ponto flutuante; o que há de errado com o meu pensamento?
Estou tendo problemas para entender por que alguns números não podem ser representados com número de ponto flutuant Como sabemos, um flutuador normal teria bit de sinal, expoente e mantissa. Por que, por exemplo, 0,1 não pode ser representado ...
questão do ponto flutuante em R? [duplicado
Possible Duplicate: Por que esses números não são iguais? [https://stackoverflow.com/questions/9508518/why-are-these-numbers-not-equal] expressão abaixo, avaliada como 0,1, é considerada maior que 0, > round(1740/600,0) - 1740/600 [1] 0.1 > ...
IEEE 754: Como exatamente funciona?
Por que o código a seguir se comporta como em C? float x = 2147483647; //2^31 printf("%f\n", x); //Outputs 2147483648Aqui está o meu processo de pensamento: 2147483647 = 0 1001 1101 1111 1111 1111 1111 1111 111 (0.11111111111111111111111)base2 ...
ritmética dupla e igualdade em Ja
Aqui está uma singularidade (para mim, pelo menos). Essa rotina é verdadeira: double x = 11.0; double y = 10.0; if (x-y == 1.0) { // print true } else { // print false }Mas essa rotina imprime false: double x = 1.1; double y = 1.0; if (x-y == ...
php intval () e floor () retornam valor muito baixo?
Como o tipo de dados flutuantes no PHP é impreciso e um FLOAT no MySQL ocupa mais espaço que um INT (e é impreciso), eu sempre armazeno preços como INTs, multiplicando por 100 antes de armazenar para garantir que tenhamos exatamente 2 casas ...