Resultados da pesquisa a pedido "floating-point"
É seguro comparar um float e um int em Java?
É seguro comparar um número flutuante e um número inteiro como este? private static void foo(float n) { if (n >= 1 || n <= 0) { // code } }De acordo comJLS (5.6.2. Promoção numérica ...
O comportamento da divisão de ponto flutuante por zero
Considerar #include <iostream> int main() { double a = 1.0 / 0; double b = -1.0 / 0; double c = 0.0 / 0; std::cout << a << b << c; // to stop compilers from optimising out the code. }Eu sempre pensei quea será + Inf,b será -Inf ec será NaN. Mas ...
classificar matriz por valor calculado a partir da matriz
Eu tenho o lat e lng de um usuário do banco de dados em uma matriz e eu tenho o lat e lng Agora eu quero calcular a distância e classificar os usuários do meu banco de dados com esse $mylat = $_SESSION['lat']; $mylng = $_SESSION['lng']; ...
Como posso converter inteiro em float em Java?
Eu tenho dois inteirosx ey. Eu preciso calcularx/y e como resultado eu gostaria de flutuar. Por exemplo, como resultado de3/2 Eu gostaria de ter 1,5. Eu pensei que a maneira mais fácil (ou única) de fazer isso é converterx ey no tipo ...
Compreendendo problemas de ponto flutuante
Alguém aqui poderia me ajudar a entender como determinar quando as limitações de ponto flutuante causarão erros em seus cálculos. Por exemplo, o seguinte código. CalculateTotalTax = function (TaxRate, TaxFreePrice) { ...
Truncar números flutuantes com PHP
Quando um número flutuante precisa ser truncado para um determinado dígito após o ponto flutuante, acontece que não é fácil fazer isso. Por exemplo, se o truncamento tiver que ser feito para o segundo dígito após o ponto, os números deverão ...
O que F e D significam no final dos literais numéricos?
Eu já vi alguns desses símbolos, mas não consigo encontrar nada de estranho nisso, double d = 5D; float f = 3.0F;O que D e F por trás de 5 significa exatamente?
Ponto flutuante e menor que igual após adição e subtração
Existe uma "melhor prática" comparações menores que iguais com o número de ponto flutuante após uma série de operações aritméticas de ponto flutuante? Eu tenho o exemplo a seguir em R, embora a questão não se aplique apenas a R, mas a qualquer ...
round () para float em C ++
Eu preciso de uma função simples de arredondamento de ponto flutuante, assim: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1Eu posso encontrarceil() efloor() no math.h - mas nãoround(). Está presente na biblioteca C ++ ...
Comparando valores de ponto flutuante convertidos de strings com literais
Esta não é uma duplicata da famosaA matemática do ponto flutuante está quebrada [https://stackoverflow.com/questions/588004/is-floating-point-math-broken], mesmo que pareça um à primeira vista. Estou lendo umdouble de um arquivo de texto ...