Resultados da pesquisa a pedido "floating-point"
Como definir o número de dígitos flutuantes que JSONEncoder produ
Estou tentando definir o pythonjson library para salvar em um dicionário que contém como elementos outros dicionários. Existem muitos números flutuantes e eu gostaria de limitar o número de dígitos para, por exemplo, 7. De acordo com outras ...
O que exatamente significa o especificador% g printf?
O%g especificador @ parece não se comportar da maneira que a maioria das fontes o documenta como se comportand De acordo com a maioria das fontes que encontrei, em vários idiomas que usamprintf especificadores, o%g deve ser equivalente a%f ou%e ...
xiste uma expressão constante correta, em termos de float, para o seu ms
O problema: dada uma expressão constante de ponto flutuante, podemos escrever uma macro que avalie uma expressão constante cujo valor é uma potência de dois igual ao local mais significativo do significando? Equivalentemente, essa é apenas a ...
np.arange não funciona como esperado com argumentos de ponto flutuante
Tente isto: import numpy as np np.arange(0,3*0.1,0.1) Saída será: array ([0., 0.1, 0.2, 0.3]) Isso é incrível, porque para np.arange 'Os valores são gerados dentro do intervalo semiaberto [iniciar, parar)'. Tentei outros números e descobri ...
mean de pandas e numpy diferem
Tenho um MEMS IMU no qual coleciono dados e estou usando pandas para obter alguns dados estatísticos. Há 6 flutuadores de 32 bits coletados a cada ciclo. As taxas de dados são fixadas para uma determinada execução de coleta. As taxas de dados ...
Como R representa NA internamente?
R parece apoiar uma eficienteNA valor em matrizes de ponto flutuante. Como isso representa internamente? Meu (talvez falho) entendimento é que as CPUs modernas podem realizar cálculos de ponto flutuante no hardware, incluindo o manuseio ...
Uma conversão de double para int pode ser escrita em C portátil
Eu preciso escrever função comodouble_to_int(double val, int *err) que ocultaria val duplo para inteiro quando possível; caso contrário, relate um erro (NAN / INFs / OUT_OF_RANGE). então a implementação do pseudo-código seria semelhante a: if ...
Representação de dupla precisão (64 bits) do valor numérico em R (sinal, expoente, significando)
R FAQ [https://cran.r-project.org/doc/FAQ/R-FAQ.html#Why-doesn_0027t-R-think-these-numbers-are-equal_003f] afirma que: Os únicos números que podem ser representados exatamente no tipo numérico de R são números inteiros e frações cujo denominador ...
Qual é a razão intuitiva que NaN! = NaN?
Pelo que pude encontrar, o IEEE define NaN para não se igualar no sistema de números de ponto flutuante. A única vez que tive que comparar NaN com NaN é comparar entradas de quadro de dados; nesse caso, essa propriedade de NaN é realmente um ...
Lerp entre dois valores ao longo do tempo
Estou tentando reduzir um flutuador por um valor de tempo, estou usando o Unity e parando o tempoTime.timeScale = 0f; então não pode usarTime.deltaTime Então, usando 'Time.realtimeSinceStartup' em um loop while, li a variável de volume principal ...