Resultados da pesquisa a pedido "floating-point"
Problema de arredondamento com tipo duplo [duplicado]
Possível duplicado: Por que as operações com valores de precisão dupla não fornecem os resultados esperados? [https://stackoverflow.com/questions/3892908/why-dont-operations-on-double-precision-values-give-expected-results] Estou com um problema ...
Comparação de variáveis float e double [duplicate]
Possíveis duplicatas: Diferença entre float e double [https://stackoverflow.com/questions/2386772/difference-between-float-and-double] saída estranha em comparação de float com float ...
Programa C não adicionando flutuação corretamente
Eu tenho um método que se parece com isso: float * mutate(float* organism){ int i; float sign = 1; static float newOrg[INPUTS] = {0}; for (i = 0;i<INPUTS;i++){ if (rand() % 2 == 0) { sign = 1; } else { sign = -1; } float temp = (organism[i] + ...
Como executar com eficiência conversões duplas / int64 com SSE / AVX?
O SSE2 possui instruções para converter vetores entre flutuadores de precisão única e números inteiros de 32 bits. _mm_cvtps_epi32()_mm_cvtepi32_ps()Mas não há equivalentes para números inteiros de precisão dupla e 64 bits. Em outras palavras, ...
Como converter um número flutuante para binário?
Alguém pode me dizer como posso converter esse número flutuante: 12,25 em binário? Eu sei como converter o "12", mas não o 0,25 Qualquer ajuda é muito apreciada. obrigado
Problemas de arredondamento de números PHP
echo (int) ( (0.1+0.7) * 10 ); Por que a saída acima 7? Entendo como o PHP se aproxima de 0, mas não é(0.1+0.7) * 10 avaliado como um flutuador e depois convertido como um número inteiro? Obrigado!
Convertendo um número com vírgula como ponto decimal para flutuar
Eu tenho uma lista de preços com uma vírgula para um ponto decimal e um ponto como separador de milhar. Alguns exemplos: 12,30 116,10 1.563,14 Estes vêm neste formato de terceiros. Quero convertê-los em carros alegóricos e adicioná-los ...
Precisão de ponto flutuante IEEE-754: Quanto erro é permitido?
Estou trabalhando em portar osqrt (para duplos de 64 bits) defdlibm [http://www.netlib.org/fdlibm/]a uma ferramenta de verificador de modelos que estou usando no momento (cbmc [http://www.cprover.org/cbmc/]) Como parte de minhas atividades, li ...
Imprimir representação binária de um número flutuante em C ++ [duplicado]
Possível duplicado: Flutuar para binário em C ++ [https://stackoverflow.com/questions/2746380/float-to-binary-in-c] Eu quero imprimir a representação binária de um número flutuante em C ++. Não é muito prático, apenas por curiosidade. O ...
Faixa de magnitude para float na linguagem de programação c?
No livro da linguagem de programação C de Dennis Ritchie, é mencionado que "um número flutuante é tipicamente uma quantidade de 32 bits, com pelo menos seis dígitos e magnitude significativos, geralmente entre 10 ^ -38 e 10 ^ + 38". Como isso é ...