Resultados da pesquisa a pedido "floating-point"
Como posso adicionar flutuadores juntos em diferentes ordens e obter sempre o mesmo total?
Digamos que eu tenho três valores de ponto flutuante de 32 bits,a, bec, de tal modo que(a + b) + c != a + (b + c). Existe um algoritmo de soma, talvez semelhante aSoma de Kahan [http://en.wikipedia.org/wiki/Kahan_summation_algorithm], que garante ...
Numpy float64 vs Python float
Estou enfrentando alguns problemas de ponto flutuante na função read_csv do Pandas. Na minha investigação, encontrei o seguinte: In [15]: a = 5.9975 In [16]: a Out[16]: 5.9975 In [17]: np.float64(a) Out[17]: 5.9974999999999996Por que está ...
Por que toPrecision retorna uma String?
Veja este código: function testprecision(){ var isNotNumber = parseFloat('1.3').toPrecision(6); alert(typeof isNotNumber); //=> string }Eu teria esperado um número. Se 'isNotNumber' deve ser um número real, a reformulação é a ...
O formato float do Django obtém apenas dígitos após o ponto flutuante
Existe um filtro de modelo do django para obter apenas dígitos após o ponto flutuante? Por exemplo : 2.34 --> 34 2.00 --> 00 1.10 --> 10Eu não encontrei uma resposta ...
Tipo de dados flutuante e duplo em Java
O tipo de dados flutuante é um ponto flutuante IEEE 754 de precisão única de 32 bits e o tipo de dados duplo é um ponto flutuante IEEE 754 de precisão dupla de 64 bits. O que isso significa? E quando devo usar float em vez de duplo ou vice-versa?
Dificuldade de comparação numérica em R
Estou tentando comparar dois números em R como parte de uma condição de instrução if: (a-b) >= 0.5 Nesse caso em particular, a = 0,58 eb = 0,08 ... e ainda(a-b) >= 0.5 é falso. Estou ciente dos perigos do uso== para comparações exatas de ...
Por que esses dois float64s têm valores diferentes?
Considere estes dois casos: fmt.Println(912 * 0.01) fmt.Println(float64(912) * 0.01)(Ir para o Playground link [http://play.golang.org/p/k3OLoemaA8]) O segundo imprime 9.120000000000001, o que é realmente bom,Eu entendo por que isso está ...
precisão de ponto flutuante em validações de modelo ruby on rails
Estou tentando validar uma quantia em dólar usando uma regex:^[0-9]+\.[0-9]{2}$ Isso funciona bem, mas sempre que um usuário envia o formulário e o valor em dólar termina em 0 (zero), ruby (ou rails?) Retira o 0. Assim, 500,00 se transforma em ...
Biblioteca de alta precisão de ponto flutuante Java [fechada]
Quais bibliotecas para Java existem com uma implementação rápida para operações de ponto flutuante ou ponto fixo com uma precisão de vários milhares de dígitos? Qual o desempenho deles? Um requisito para mim é que ele implemente um algoritmo de ...
Como gerenciar a divisão de grandes números em Python?
Eu tenho um número de 100 dígitos e estou tentando colocar todos os dígitos do número em uma lista, para que eu possa executar operações neles. Para fazer isso, eu estou usando o seguinte código: for x in range (0, 1000): list[x] = number % 10 ...