Resultados da pesquisa a pedido "floating-point"
Uma conversão de double para int pode ser escrita em C portátil
Eu preciso escrever função comodouble_to_int(double val, int *err) que ocultaria val duplo para inteiro quando possível; caso contrário, relate um erro (NAN / INFs / OUT_OF_RANGE). então a implementação do pseudo-código seria semelhante a: if ...
Haskell: Saída inesperada para expressão [0, 0.1 .. 1]
Ao avaliar a expressão: *main> [0, 0.1 .. 1]Na verdade, eu estava esperando: [0, 0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9, 1]Mas fiquei bastante chocado ao ver a saída ...
Por que não consigo usar o valor flutuante como parâmetro do modelo?
Quando tento usarfloat como parâmetro de modelo, o compilador clama por esse código, enquantoint funciona bem. É porque eu não posso usarfloat como um parâmetro de modelo? #include<iostream> using namespace std; template <class T, T ...
Por que o MATLAB excluiu meus decimais?
Digamos que eu crie algum númeroA, da ordem10^4: A = 81472.368639; disp(A) 8.1472e+04Não era isso que eu queria. Onde estão meus decimais? Deve haver mais seis decimais. Verificar o editor de variáveis me mostra isso: [/imgs/PlGhz.png] Mais ...
Existe uma implementação de código aberto c / c ++ das operações IEEE-754? [fechadas]
Estou procurando uma implementação de referência das operações IEEE-754. Existe uma coisa dessas?
Por que os números de ponto flutuante são imprecisos?
Por que alguns números perdem a precisão quando armazenados como números de ponto flutuante? Por exemplo, o número decimal9.2 pode ser expresso exatamente como uma razão de dois números decimais (92/10), os quais podem ser expressos exatamente ...
Matemática de ponto flutuante em diferentes linguagens de programação
Eu sei que a matemática de ponto flutuante pode ser feia na melhor das hipóteses, mas estou me perguntando se alguém pode explicar a seguinte peculiaridade. Na maioria das linguagens de programação eu testei a adição de 0,4 a 0,2 deu um pequeno ...
Sobre como comparar um número inteiro e um número flutuante / duplo em C / C ++
Eu tenho o seguinte pedaço de código (sinta-se à vontade para alterar o float com double): class A { public: void setValueFloat(float v) { m_floatValue = v / 3.6; // m/s <-> km/h conversion } void setValueInt(int v1, int v2) { m_intValue1 = ...
Flutuadores de 16 bits e GL_HALF_FLOAT
Estou procurando / escrevendo uma implementação C ++ de um número de ponto flutuante de 16 bits para usar com buffers de vértice OpenGL (coordenadas de textura, normais, etc.). Aqui estão os meus requisitos até agora: Deve ser de 16 bits ...
Java float 123.129456 a 123.12 sem arredondamento
Como você reduzflutuadorprimitivo em java paradois decimaislocais, sem usar arredondamentos ?: 123.99999 to 123.99 -8.022222 to -8.02Não deve haver arredondamento, basta cortar as casas decimais e deixar duas. O segundo ponto é como ...