Resultados da pesquisa a pedido "floating-point"
Diferenças C ++ / C # com float e double
Estamos convertendo uma biblioteca matemática C ++ em C #. A biblioteca mistura o uso de floats e dobros (às vezes é possível converter entre eles) e estamos tentando fazer o mesmo, a fim de obter exatamente os mesmos resultados em C # que ...
Por que nenhum tipo de ponto flutuante não assinado? [duplicado]
Possível duplicado: Por que C não possui carros alegóricos não assinados? [https://stackoverflow.com/questions/512022/why-doesnt-c-have-unsigned-floats] A pergunta é provavelmente muito básica e provavelmente já foi respondida várias vezes, mas ...
Como posso obter os primeiros n bits do número de ponto flutuante como número inteiro em python
Suponha que eu tenha0.625 como um ponto flutuante é0b.101, então, se eu quero os dois primeiros bits como um número inteiro, ou seja,0b10 = 2, como posso conseguir isso em python? Eu tentei levar o número para uma potência de 2 e converter para ...
Implementação vetorizável da função de erro complementar erfcf ()
A função de erro complementar,erfc, é uma função especial intimamente relacionada à distribuição normal padrão. É freqüentemente usado em estatística e ciências naturais (por exemplo, problemas de difusão) onde os "rabos" dessa distribuição ...
O JavaScript tem precisão de número de ponto flutuante duplo?
Eu sei que é uma pergunta estranha, mas o JavaScript tem a capacidade de trabalhar com double's em vez de single floats? (Flutuadores de 64 bits vs. 32 bits.)
Por que os números de ponto flutuante não podem ser comparados? [duplicado]
Possível duplicado: saída estranha em comparação de float com float literal [https://stackoverflow.com/questions/1839422/strange-output-in-comparision-of-float-with-float-literal] #include<stdio.h> int main() { float me = 1.7; if(me==1.7) ...
Golang convertendo float64 em erro int
Como evitar erros de ponto flutuante ao converter float em int. Por exemplo, o código a seguir é impresso:0.5499999999999972 quando acabo, espero que imprima0.55. package main import "fmt" func main() { x := 100.55 fmt.Println(x ...
Como rastrear um NaN em C ++
Vou fazer alguns cálculos matemáticos usando C ++. O número do ponto flutuante de entrada é um número válido, mas após os cálculos, o valor resultante é NaN. Gostaria de rastrear o ponto em que o valor NaN aparece (possivelmente usando GDB), em ...
obtém o valor inteiro da representação de uma variável do tipo float em C
Eu tenho o número 20 (0x14) armazenado em um registro de 32 bits. O registro é alocado para uma variável flutuante C representando o valor 2.8e-44. Agora, quero recuperar a representação hexadecimal da variável float e armazená-la em uma variável ...
Como determinar a precisão máxima para o dobro
Estou tentando determinar qual é a precisão máxima para um duplo. Nos comentários da resposta aceita neste linkMantenha a precisão com o dobro em Java [https://stackoverflow.com/questions/322749/retain-precision-with-double-in-java] @PeterLawrey ...