Resultados da pesquisa a pedido "floating-point"
precisão dupla longa x86-64
Qual é a precisão real do long double nas plataformas Intel de 64 bits? são 80 bits acolchoados a 128 ou 128 bits reais? se antigo, além de usar o gmp, existe outra opção para alcançar a verdadeira precisão 128?
Por que o valor desse flutuador muda do que foi definido?
Por que este programa C está dando a saída "errada"? #include<stdio.h> void main() { float f = 12345.054321; printf("%f", f); getch(); }Resultado: 12345.054688Mas a saída deve ser,12345.054321. Estou usando o VC ++ no VS2008.
Como obter o menor valor duplo possível, próximo ou anterior, suportado pela arquitetura?
Vamos dizer que eu tenho umdouble variáveld. Existe uma maneira de obter o valor seguinte ou anterior suportado pela arquitetura da CPU. Como um exemplo trivial, se o valor fosse 10.1245125 e a precisão da arquitetura fosse fixada em 7 casas ...
Ponto flutuante de precisão dupla em CUDA
O CUDA suporta números de ponto flutuante de precisão dupla? Além disso, quais são as razões para o mesmo?
Comparação de ponto flutuante em STL, BOOST
Existe no STL ou no Boost um conjunto de funções de comparação simples genéricas? O que eu encontrei sempre exige parâmetros de modelo e / ou instanciação de um modelo de estrutura. Estou procurando algo com uma sintaxe como: if ( ...
Como obtenho o valor mínimo ou máximo de um iterador que contém números de ponto flutuante?
Compreendopor que os carros alegóricos não têm uma implementação paraOrd [https://stackoverflow.com/q/26489701/155423]mas isso não me ajuda particularmente quando quero ser preguiçoso e usar iteradores. Existe uma solução alternativa ou uma ...
sin v / s função sinf em C
Estou tentando usar osinf no meu programa C, mas isso me dá um erro de referência indefinido no MSVC 6.0, no entantosin funciona bem. Isso me deixa curioso para encontrar a diferença entresin esinf. Qual é a diferença lógica entresin esinf ...
É possível obter 0 subtraindo dois números desiguais de ponto flutuante?
É possível obter divisão por 0 (ou infinito) no exemplo a seguir? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } }Em casos normais, isso não acontecerá, é claro. Mas e sea eb estão muito ...
Saída estranha ao usar float em vez de double
Saída estranha quando usofloat ao invés dedouble #include <stdio.h> void main() { double p,p1,cost,cost1=30; for (p = 0.1; p < 10;p=p+0.1) { cost = 30-6*p+p*p; if (cost<cost1) { cost1=cost; p1=p; } else { break; } printf("%lf\t%lf\n",p,cost); } ...
Como o javascript imprime 0,1 com tanta precisão?
Eu tenhoouviu [https://stackoverflow.com/questions/1458633/elegant-workaround-for-javascript-floating-point-number-problem] que os números javascript sãoIEEE 754 [http://en.wikipedia.org/wiki/IEEE_floating_point]pontos flutuantes, o que explica ...