Resultados da pesquisa a pedido "floating-point"
Por que algumas comparações float <integer são quatro vezes mais lentas que outras?
Ao comparar flutuações com números inteiros, alguns pares de valores levam muito mais tempo para serem avaliados do que outros valores de magnitude semelhante. Por exemplo: >>> import timeit >>> timeit.timeit("562949953420000.7 < ...
Determinar a precisão e a escala de um número específico no Python
Eu tenho uma variável em Python que contém um número de ponto flutuante (por exemplo,num = 24654.123) e gostaria de determinar os valores de precisão e escala do número (no sentido Oracle), para que 123.45678 me dê (8,5), 12,76 me dê (4,2) ...
Float32 para Float16
Alguém pode me explicar como converter um valor de ponto flutuante de 32 bits em um valor de ponto flutuante de 16 bits? (s = sinal e = expoente em = mantissa) Se a flutuação de 32 bits for 1s7e24m E a flutuação de 16 bits é 1s5e10m Então é ...
Resultados inesperados para pontos flutuantes iguais
A pergunta não é sobre o porquê0.1 + 0.9 não é igual1.0. É sobre o comportamento diferente de um igual. Alguém pode explicar por que os exemplos abaixo funcionam de maneira diferente. float q = 0.1f; float w = 0.9f; float summ = q + w; q + w == ...
A conversão de Int para Float perde precisão para grandes números no Swift
XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...
Converter lista ou matriz numpy de elemento único para flutuar em python
Eu tenho uma função que pode aceitar uma lista ou uma matriz numpy. Nos dois casos, a lista / matriz possui um único elemento (sempre). Eu só preciso devolver um carro alegórico. Então, por exemplo, eu poderia receber: list_ = [4]ou a matriz ...
Representando valores flutuantes em Java
Veja as três linhas de código abaixo. float f = 1; float g = 1.1; float h = 1.1f;A segunda linha possui erros de compilação, enquanto as outras linhas não possuem erros de compilação. A primeira linha está funcionando bem sem o sufixo f e a ...
Ruby BigDecimal sanity check (ponto flutuante newb)
Meu entendimento está correto com RubyBigDecimal tipos (mesmo com diferentes comprimentos de precisão e escala) devem ser calculados com precisão ou devo antecipar travessuras de ponto flutuante? Todos os meus valores em um aplicativo Rails ...
Implementação do algoritmo Payne Hanek em C
Estou lutando para entender como IMPLEMENTAR o algoritmo de redução de faixa publicado por Payne e Hanek (redução de faixa para funções trigonométricas) Eu já vi essa biblioteca:http://www.netlib.org/fdlibm/ [http://www.netlib.org/fdlibm/] Mas ...
igualdade de ponto flutuante em Python e em geral
Eu tenho um pedaço de código que se comporta de maneira diferente, dependendo se eu passo por um dicionário para obter fatores de conversão ou se os uso diretamente. O seguinte trecho de código será impresso1.0 == 1.0 -> False Mas se você ...