Resultados da pesquisa a pedido "floating-point"
MATLAB precision
Como implementar a precisão quádrupla (aritmética de 128 bits) no MATLAB enquanto resolvo um problema de autovalor da matri Estou tentando resolver um problema de análise de estabilidade linear para o fluxo Couette de plano incompressível e a ...
Math.cos imprecisão
alert(Math.cos(Math.PI/2)); Por que o resultado não é exatamente zero? Isso é imprecisão ou existe algum erro de implementação?
round () em Python não parece estar arredondando corretamente
A documentação para ovolta( [http://docs.python.org/lib/built-in-funcs.html] função @ indica que você passa um número para ele e as posições passam do decimal para o arredondamento. Assim,devemo fazem isto n = 5.59 round(n, 1) # 5.6Mas, na ...
Precisão de ponto flutuante ao usar max () @ do Pyth
Por quê >>> max(2, 2.01) 2.0099999999999998
Atribua ao flutuador a partir da string com precisão
Tenho o código a seguir, desejo atribuir um valor decimal a flutuar sem perder a precisã String s1= "525.880005"; Float f = new Float(s1); System.out.println(f);Saída 5,88 Saída esperada: 525.880005
NaN Literal em C?
Como você escreve umNaN literal de ponto flutuante em C?
Erro ao subtrair números de ponto flutuante ao passar por 0,0
O seguinte programa: #include <stdio.h> int main() { double val = 1.0; int i; for (i = 0; i < 10; i++) { val -= 0.2; printf("%g %s\n", val, (val == 0.0 ? "zero" : "non-zero")); } return 0; } Produz esta saída: 0.8 non-zero 0.6 non-zero 0.4 ...
Como verificar se o compilador C ++ usa o padrão de ponto flutuante IEEE 754
Gostaria de fazer uma pergunta a seguirest [https://stackoverflow.com/questions/752309/ensuring-c-doubles-are-64-bits], que é bastante bem respondido pela verificação de definição, se o compilador usa o padrão. No entanto, isso funciona apenas ...
Verificando se float é um número inteiro
Como posso verificar se umfloat variável contém um valor inteiro? Até agora, eu tenho usado: float f = 4.5886; if (f-(int)f == 0) printf("yes\n"); else printf("no\n");Mas eu me pergunto se existe uma solução melhor, ou se este tem algum (ou ...
Python array multiply
hh=[[82.5], [168.5]] N=1./5 ll=N*hhO que estou fazendo de errado? Eu recebi o erro: "não é possível multiplicar a sequência por não-int do tipo 'float'" Tento adicionar float (), mas isso não resolve o meu problema; Preciso multiplicar cada ...