Resultados da pesquisa a pedido "floating-point"
onto flutuante desnormalizado em Objective-
Qual é a relevância da pergunta / resposta do Stack OverflowPor que alterar 0,1f para 0 diminui o desempenho em 10x? [https://stackoverflow.com/a/9314926/8047] para Objective-C? Se houver alguma relevância, como isso deve mudar meus hábitos de ...
edução @ange de baixa precisão para ponto flutuante de precisão única
stou tentando implementar a redução de alcance como a primeira etapa da implementação da função sen Estou seguindo o método descrito no documento "REDUÇÃO DE ARGUMENTO PARA ARGUMENTOS ENORME" por K.C. ...
bjective-C - Como aumentar a precisão de um número flutuante
Alguém pode me mostrar o caminho para definir a precisão de um número flutuante no comprimento desejado. Digamos que eu tenho um número 2504.6. Como você vê, a precisão aqui é apenas 1. Quero defini-la como seis. Preciso disso porque comparo ...
Explicar esse comportamento de ponto flutuante
Por favor, explique por que os seguintes pedaços de código se comportam de maneira diferent #include<stdio.h> int main(){ float a=0.1; if(a<0.1) printf("less"); else printf("greater than equal"); getchar(); }Output:greater than ...
Calcular a unidade em último lugar (ULP) para duplas
@ .NET possui um método interno para calcular o ULP [https://en.wikipedia.org/wiki/Unit_in_the_last_place] de um dado double ou float? Se não, qual é a maneira mais eficiente de fazer isso?
Por que esses números não são iguais?
O código a seguir está obviamente errado. Qual é o problema i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15
Operação do módulo de ponto flutuante
Estou tentando implementar a operação de redução de intervalo para trigonometria. Mas, em vez disso, acho que seria melhor executar apenas uma operação do módulo pi / 2 nos dados recebidos. Eu queria saber quais algoritmos existem e são ...
Existe uma maneira confiável no JavaScript de obter o número de casas decimais de um número arbitrári
É importante observar que não estou procurando uma função de arredondamento. Estou procurando uma função que retorna o número de casas decimais na representação decimal simplificada de um número arbitrário. Ou seja, temos ...
Existe uma maneira de verificar se uma variável é um número inteiro? C ++
Preciso verificar se uma variável é um número inteiro, digamos que eu tenha o código: double foobar = 3; //Pseudocode if (foobar == whole) cout << "It's whole"; else cout << "Not whole";Como eu faria isso
Especificador de formato flutuante dinâmico em C
Existe alguma maneira de um especificador de formato flutuante ser inserido pelo usuário? Por exemplo, se eu imprimir isso. float c = 15.0123 printf("%.2f", c); // outputs: 15.01Como posso atribuir o número de casas decimais a uma variável? ...