Resultados da pesquisa a pedido "floating-point"
Precisão e igualdade de ponto flutuante em Java
É sabido que o número do ponto flutuante, mesmo aqueles com dígitos fixos após o ponto decimal no formato decimal, não pode ser representado exatamente. Então, eu tenho o seguinte programa para testar: public class Main { public static void ...
quantos números inteiros no IEEE 754
Estou tentando descobrir quantos números inteiros diferentes existem no ieee 754. O número que obtive foi 1778384895, mas não consegui encontrar nenhum recurso para me verificar. Muito obrigado antecipadamente.
Limitar a precisão do ponto flutuante?
Existe uma maneira de arredondar pontos flutuantes para 2 pontos? Por exemplo.:3576.7675745342556 torna-se3576.76.
Gere uma flutuação aleatória entre 0 e 1
Estou tentando gerar um número aleatório entre 0 e 1. Continuo lendo sobrearc4random(), mas não há informações sobre como obter um float dele. Como eu faço isso?
Resultado inesperado do PHP de float para int type cast
Estou tentando converter um float para um valor int em php: var_dump((int)(39.3 * 100.0)); //Returns 3929 but should be 3930! var_dump((int)(39.2 * 100.0)); //Returns 3920Posso usar o teto para fazê-lo funcionar, mas alguém pode me explicar ...
O `x! = X` é uma maneira portátil de testar o NaN?
Em C, você pode testar se um NaN duplo, usandoisnan(x). No entanto, muitos locais on-line, incluindo, por exemplo, esteEntão responde [https://stackoverflow.com/a/1923933/2179021]diga que você pode simplesmente usarx!=x em vez de. Éx!=x em ...
Quais são os usos das cargas úteis de NaN de ponto flutuante?
Eu sei que o IEEE 754 define NaNs para ter a seguinte representação em bits: O bit de sinal pode ser0 ou1O campo expoente contém todos1 bitsAlguns bits da mantissa são usados para especificar se é um NaN silencioso ou NaN sinalizadorA mantissa ...
Double vs. BigDecimal?
Eu tenho que calcular algumas variáveis de ponto flutuante e meu colega sugere que eu useBigDecimal ao invés dedouble já que será mais preciso. Mas quero saber o que é e como tirar o máximo proveitoBigDecimal?
Como criar um flutuador aleatório no Objective-C?
Estou tentando criar um flutuador aleatório entre 0,15 e 0,3 em Objective-C. O código a seguir sempre retorna 1: int randn = (random() % 15)+15; float pscale = (float)randn / 100;O que estou fazendo errado?
Serialize o dobro e flutue com C
Como serializar duplos e flutuadores em C? Eu tenho o código a seguir para serializar shorts, ints e chars. unsigned char * serialize_char(unsigned char *buffer, char value) { buffer[0] = value; return buffer + 1; } unsigned char * ...