Resultados da pesquisa a pedido "floating-point"
Por que "0f" não é tratado como um literal de ponto flutuante em C ++?
Por que não0f tratado como um literal de ponto flutuante em C ++? #include <iostream> using namespace std; int main(){ cout << 0f << endl; return 0; }Compilar o que foi dito acima me dá C2509 (erro de sintaxe: 'sufixo incorreto no ...
Qual a melhor forma de resumir muitos números de ponto flutuante?
Imagine que você tenha uma grande variedade de números de ponto flutuante, de todos os tipos de tamanhos. Qual é a maneira mais correta de calcular a soma, com o menor erro? Por exemplo, quando a matriz fica assim: [1.0, 1e-10, 1e-10, ... ...
Por que o valor do ponto flutuante de 4 * 0,1 fica bonito no Python 3, mas 3 * 0.1 não?
Eu sei que a maioria dos decimais não tem uma representação exata de ponto flutuante (A matemática do ponto flutuante está quebrada? [https://stackoverflow.com/questions/588004]) Mas não vejo por que4*0.1 é impresso bem como0.4, mas3*0.1 não é, ...
struct.unpack (struct.pack (float)) tem erro de arredondamento?
Ao testar minha biblioteca,Construir [https://github.com/construct/construct], Descobri que os testes falham quando os números são construídos e depois analisados de volta para um flutuador. Os carros alegóricos não devem ser representados ...
Erro de cálculo de flutuação do PHP ao subtrair
Eu tenho um problema muito estranho. Se eu subtrair 2 float vars onde um é o resultado de uma operação matemática, recebo um valor errado.Exemplo:
Converter decimal em dobro?
Quero usar uma barra de controle para alterar a opacidade de um formulário. Este é o meu código: decimal trans = trackBar1.Value / 5000; this.Opacity = trans;Quando crio o aplicativo, ele fornece o seguinte erro: Não é possível converter ...
Número máximo de dígitos decimais que podem afetar um duplo
Considere representações decimais da forma d1.d2d3d4d5 ... dnExxx onde xxx é um expoente arbitrário e ambos d1 e dn são diferentes de zero.É o máximo n conhe...
Por que o Double.compare (double, double) do Java é implementado da maneira que é?
Eu estava olhando para a implementação decomparar (duplo, duplo) na biblioteca padrão Java (6). Lê: