Resultados da pesquisa a pedido "floating-point"
Uma maneira de arredondar flutuadores para baixo
Rodada flutuante arredonda para cima ou para baixo. Eu sempre preciso arredondar para baixo. Tenho a solução, mas não gosto muito ... Talvez exista uma maneira melhor. É isso que eu quero 1.9999.round_down(2) #=> 1.99 1.9901.round_down(2) ...
Por que a Microsoft abandonou o tipo de dados duplo e longo? [fechadas
á um tempo atrás escrevi um programa que usava algumas funções fatoriais. Eu usei o tipo de dados duplo longo para suportar grandes números "relativos". Agora, mudei de codeblocks para o Visualstudio 2010, fiquei pensando por que meu programa ...
Algoritmo para converter um IEEE 754 duplo em uma strin
uitas linguagens de programação que usam duplas IEEE 754 fornecem uma função de biblioteca para converter essas duplas em seqüências de caracteres. Por exemplo, C temsprintf, C ++ temstringstream, Java temDouble.toString etc. Internamente, como ...
Como produzir um flutuador NaN em c?
float f = (float)'a'; if(f < 0){ } else if(f == 0){ } else if(f > 0){ } else{ printf("NaN\n"); }f não será maior / igual / menor que0 se for umNaN. Mas como produzir um talf em primeiro lugar Tentei várias maneiras de produzir umNaN, mas ...
Verificar sempre o dobro da igualdade é seguro?
Eu tenho o seguinte código double x = 0; { ...do stuff ...} if(x == 0){ } Sempre fui ensinado que você não deve verificar a igualdade dos carros alegóricos. A verificação para ver se é igual a zero é diferente?
Estranho para problema de loop
Não tenho certeza se isso é um bug ou não, então pensei que talvez vocês possam dar uma olhad O problema está neste código: for i=0,1,.05 do print(i) end A saída deve ser: 0 .05 .1 --snip-- .95 1 Em vez disso, a saída é: 0 .05 .1 --snip-- ...
Converte double / float para string
Preciso converter um número de ponto flutuante em uma sequência equivalente em decimal (ou outra base). A conversão precisa ser feita no formatoxE+0 Ondex é o número do ponto flutuante. A idéia que tenho é primeiro truncar o número do ponto ...
divisão por zero não gera SIGFPE
Eu tenho um pequeno programa executando a divisão de ponto flutuante por zero, então espero SIGFP #include <sys/types.h> #include <signal.h> #include <stdio.h> #include <stdlib.h> #include <iostream> void signal_handler (int signo) { if(signo ...
Por que o código de divisão inteira dá a resposta errad
Eu tenho uma divisão muito simples em Java (é uma quantidade / produção de produto por hora), no entanto, sempre que faço essa divisão, recebo erros estranhos: float res = quantity / standard; Tentei a divisão acima com vários valores e sempre ...
Haskell gamas e carros alegóricos
Por que o comportamento da notação de intervalo Haskell é diferente para flutuadores e para números inteiros e caractere Prelude> [1, 3 .. 10] :: [Int] [1,3,5,7,9] Prelude> [1, 3 .. 10] :: [Float] [1.0,3.0,5.0,7.0,9.0,11.0] Prelude> ['a', 'c' .. ...