Resultados da pesquisa a pedido "floating-point"
Representação de números de ponto flutuante Java como números hexadecimais
Porque0x1p3 igual8.0? Porque0x1e3 igual483, enquanto que0x1e3d é igual a7741? É confuso desde1e3d é igual a1000.0.
Ordem das operações para maximizar a precisão
Estou usando carros alegóricos para estas operações: Qual destes dois é mais preciso? (a * b) / cou (a / c) * bIsso importa ou depende da situação? Em caso afirmativo, qual devo escolher em que casos?
Como obter uma representação binária do número de ponto flutuante no PHP?
Existe alguma maneira de obter a representação binária de um número de ponto flutuante no PHP? Algo como o JavaDouble.doubleToRawLongBits () [http://download.oracle.com/javase/6/docs/api/java/lang/Double.html#doubleToRawLongBits(double)] . Dado ...
Convertendo SQL FLOAT em SQL INT, dados perdidos
Estou tendo problemas para converter alguns dados armazenados em um tipo de dados FLOAT em dados armazenados em um tipo de dados INT. O exemplo abaixo ilustra meu problema: DECLARE @data TABLE ( id INT, weight FLOAT ) INSERT INTO ...
Long in Float, por quê?
long b = 99; float c = 99.0F; //b = c; //Error : Cannot implicitly convert type 'float' to 'long'. c = b; // Running Successfully. Why?Por que não há problema em relação ao tamanho do tipo de dados e à conversão implícita? O tamanho defloat elong ...
iphone / Objective C - Comparar duplos não funciona
Eu acho que estou ficando louco. "contador" e "intervalo" são duplos. Isso está acontecendo no acelerômetro: didAccelerate em um intervalo de (0,01). "counter" deve eventualmente aumentar para "interval". Por alguma razão, eu não consigo fazer ...
Maneira concisa de implementar round () em C?
O C incorporado que estou usando não tem uma função round (), é uma biblioteca matemática, o que seria uma maneira concisa de implementar isso em C? Eu estava pensando em imprimi-lo em uma string, procurando a casa decimal, depois encontrando o ...
Android smali question
Atualmente, estou pesquisando sobre smali / "code ofuscator" e estou tentando me familiarizar com os códigos-fonte descompilados no momento. Para isso, criei um aplicativo simples e o descompilei por smali. Estou tentando entender o código-fonte ...
Imprecisões de ponto flutuante
Enquanto escrevia uma função que executaria alguma operação com cada número em um intervalo, encontrei alguns problemas com imprecisões de ponto flutuante. O problema pode ser visto no código abaixo: #include <iostream> using namespace std; int ...
Os pandas lêem o arquivo csv com valores flutuantes resultam em arredondamentos estranhos e dígitos decimais
Eu tenho um arquivo csv contendo valores numéricos, como1524.449677. Sempre existem exatamente 6 casas decimais. Quando importo o arquivo csv (e outras colunas) via pandasread_csv, a coluna obtém automaticamente o tipo de dadosobject. Meu ...