Resultados da pesquisa a pedido "floating-point"
Java: imprecisão usando o dobro [duplicado]
Possible Duplicate: Retain precisão com dobros em java [https://stackoverflow.com/questions/322749/retain-precision-with-doubles-in-java] omportamento estranho de ponto flutuante em um programa ...
Qual é a maneira mais rápida de converter float para int em x86
Qual é a maneira mais rápida de converter um número de ponto flutuante em int em uma CPU x86. De preferência em C ou montagem (que pode ser alinhada em C) para qualquer combinação do seguinte: Flutuação de 32/64/80 bits -> inteiro de 32/64 bits ...
Java: double vs float
Em outro exercício de Bruce Eckel, o código que escrevi usa um método e altera o valor em outra classe. Aqui está o meu código: class Big { float b; } public class PassObject { static void f(Letter y) { y.c = 'z'; } //end f() static void g(Big ...
Precisão Matlab: subtração simples não é zero
Calculo esta soma simples no Matlab: 2*0.04-0.5*0.4^2 = -1.387778780781446e-017 mas o resultado não é zero. O que eu posso fazer
Como converter string para float?
#include<stdio.h> #include<string.h> int main() { char s[100] ="4.0800" ; printf("float value : %4.8f\n" ,(float) atoll(s)); return 0; } Espero que a saída seja4.08000000 enquanto eu tenho apenas4.00000000. Existe alguma maneira de obter os ...
Qual é a diferença entre uma operação de ponto flutuante de precisão simples e dupl
Qual é a diferença entre uma operação de ponto flutuante de precisão única e operação flutuante de precisão dupla? Estou especialmente interessado em termos práticos em relação aos consoles de videogame. Por exemplo, o Nintendo 64 tem um ...
Saída de impressão estranha
Executei o seguinte código #include <stdio.h> int main() { printf("%f\n", 9/5); }Resultado :0.000000 Por que não1 ? se eu escreverprintf("%f %f %d %d\n", (float)9/5, 4, sizeof(float), sizeof(int)); a saída é1.800000 0.000000 4 59 Por que ...
Podemos confiar em op == para comparar binariamente valores de ponto flutuant
Todos sabemos (certo ?!) que não se deve comparar valores de ponto flutuante testando a igualdade operator==). Mas e se eu realmente quiser determinar se doisfloats a eb estamosbinary equal? Se eles não podem ser NaN (ou outros "valores ...
Truncar um número de ponto flutuante sem arredondar para cima
Tenho um número de ponto flutuante que quero truncar para 3 lugares, mas não quero arredonda Por exemplo, converta1.0155555555555555 para1.015 (não1.016). Como eu faria isso em Ruby?
TypeError: objeto 'float' não iterável
Estou usando o python 3.2.2 no windows 7 e estou tentando criar um programa que aceita 7 números e depois diz ao usuário quantos são positivos, quantos são negativos e quantos são zero. é isso que eu tenho até agora: count=7 for i in count: num ...