Por que a saída de inv () e pinv () não é igual em Matlab e Octave?

Por que o ghci diz que 1.1 + 1.1 + 1.1> 3.3 é True?

Precisão de ponto flutuante IEEE-754: Quanto erro é permitido?

Estou trabalhando em portar osqrt (para duplos de 64 bits) defdlibm [http://www.netlib.org/fdlibm/]a uma ferramenta de verificador de modelos que estou usando no momento (cbmc [http://www.cprover.org/cbmc/]) Como parte de minhas atividades, li ...

Truncar números flutuantes com PHP

Quando um número flutuante precisa ser truncado para um determinado dígito após o ponto flutuante, acontece que não é fácil fazer isso. Por exemplo, se o truncamento tiver que ser feito para o segundo dígito após o ponto, os números deverão ...

Ponto flutuante e menor que igual após adição e subtração

Existe uma "melhor prática" comparações menores que iguais com o número de ponto flutuante após uma série de operações aritméticas de ponto flutuante? Eu tenho o exemplo a seguir em R, embora a questão não se aplique apenas a R, mas a qualquer ...

Por que 0.1 + 0.4 = 0.5?

Nós sabemos issoponto flutuante está quebrado [https://stackoverflow.com/questions/588004/is-floating-point-math-broken], porque os números decimais nem sempre podem ser perfeitamente representados em binário. Eles são arredondados para um número ...

Truncar (não arredondar) números decimais em javascript

Estou tentando truncar números decimais para casas decimais. Algo assim: 5.467 -> 5.46 985.943 -> 985.94toFixed(2) faz a coisa certa, mas arredonda o valor. Não preciso do valor arredondado. Espero que isso seja possível em javascript.

Por que não recebo zero quando subtraio o mesmo número de ponto flutuante de si no Perl? [duplicado]

Possíveis duplicatas: Por que a aritmética de ponto flutuante em C # é imprecisa? [https://stackoverflow.com/questions/753948/why-is-floating-point-arithmetic-in-c-imprecise] Por que o ghci diz que 1.1 + 1.1 + 1.1> 3.3 é ...

Precisão garantida da função sqrt em C / C ++

Todo mundo sabesqrt função demath.h/cmath em C / C ++ - retorna raiz quadrada de seu argumento. Claro, isso tem a ver com algum erro, porque nem todos os números podem ser armazenados com precisão. Mas tenho certeza de que o resultado tem alguma ...

C / C ++: 1.00000 <= 1.0f = Falso

Alguém pode explicar por que 1.000000 <= 1.0f é falso? O código: #include <iostream> #include <stdio.h> using namespace std; int main(int argc, char **argv) { float step = 1.0f / 10; float t; for(t = 0; t <= 1.0f; t += step) { printf("t = ...