Resultados da pesquisa a pedido "floating-point"
Como converter ou converter um float em sua sequência de bits, como um longo
Bom dia, estou trabalhando em um ambiente C de 16 bits e desejo converter um valor flutuante em sua sequência de bits, como um valor inteiro. Existem várias maneiras pelas quais eu sei como conseguir isso, uma é com um sindicato; tal como union ...
idando com precisão de flutuação em Javascript [duplicado]
Esta pergunta já tem uma resposta aqui: Como lidar com a precisão do número de ponto flutuante em JavaScript? [/questions/1458633/how-to-deal-with-floating-point-number-precision-in-javascript] 34 respostas Tenho uma grande quantidade de ...
Divisão de ponto flutuante vs multiplicação de ponto flutuante
Existe algum ganho de desempenho (sem micro-otimização) codificando float f1 = 200f / 2em comparação com float f2 = 200f * 0.5 Um professor meu me disse há alguns anos que as divisões de ponto flutuante eram mais lentas que as multiplicações ...
problemas na comparação de ponto flutuante [duplicado]
Esta pergunta já tem uma resposta aqui: aída estranha em comparação de float com float literal [/questions/1839422/strange-output-in-comparison-of-float-with-float-literal] 8 respostasvoid main() { float f = 0.98; if(f <= 0.98) printf("hi"); ...
Por que NaN não é igual a NaN? [duplicado
Esta pergunta já tem uma resposta aqui: Qual é a justificativa para todas as comparações que retornam false para valores NaN IEEE754? [/questions/1565164/what-is-the-rationale-for-all-comparisons-returning-false-for-ieee754-nan-values] 3 ...
Como esta aproximação de raiz quadrada flutuante funciona?
Encontrei uma aproximação de raiz quadrada bastante estranha, mas funcional, parafloats; Eu realmente não entendo. Alguém pode me explicar por que esse código funciona? float sqrt(float f) { const int result = 0x1fbb4000 + (*(int*)&f >> 1); ...
Por que estou recebendo zero em expressões float como 1/2? [duplicado
Esta pergunta já tem uma resposta aqui: Problema com float em C [duplicado] [/questions/26643536/trouble-with-float-on-c] 1 resposta Dividir 1 / n sempre retorna 0,0 [duplicado] [/questions/13331054/dividing-1-n-always-returns-0-0] ...
Remainder no flutuador em Python [duplicado]
Esta pergunta já tem uma resposta aqui: Módulo Python em carros alegóricos [/questions/14763722/python-modulo-on-floats] 3 respostas Eu só quero mostrar os resultados das operações em python. Eu não consigo explicar >>> 1.0%1.0 0.0 (OK) >>> ...
mean de pandas e numpy diferem
Tenho um MEMS IMU no qual coleciono dados e estou usando pandas para obter alguns dados estatísticos. Há 6 flutuadores de 32 bits coletados a cada ciclo. As taxas de dados são fixadas para uma determinada execução de coleta. As taxas de dados ...
np.arange não funciona como esperado com argumentos de ponto flutuante
Tente isto: import numpy as np np.arange(0,3*0.1,0.1) Saída será: array ([0., 0.1, 0.2, 0.3]) Isso é incrível, porque para np.arange 'Os valores são gerados dentro do intervalo semiaberto [iniciar, parar)'. Tentei outros números e descobri ...