Por que o ponto flutuante IEEE-754 não é intercambiável entre plataformas?

Por que str (float) retorna mais dígitos no Python 3 do que no Python 2?

No Python 2.7,repr de umfloat retorna o número decimal mais próximo com até 17 dígitos; isso é preciso o suficiente para identificar exclusivamente cada valor possível de ponto flutuante IEEE.str de umfloat trabalhou da mesma forma, exceto que ...

Como alterar um número float64 para uint64 da maneira correta?

package main func main() { var n float64 = 6161047830682206209 println(uint64(n)) }A saída será: 6161047830682206208Parece que quandofloat64 mudar parauint64, a fração é descartada.

Aritmética de ponto flutuante de meia precisão em chips Intel

É possível executar aritmética de ponto flutuante de meia precisão em chips Intel? Eu sei como carregar / armazenar / converter números de ponto flutuante de meia precisão [1], mas não sei como adicioná-los / multiplicá-los sem converter ...

Convertendo 4 bytes brutos em ponto flutuante de 32 bits

Estou tentando reconstruir um valor de ponto flutuante de 32 bits de um eeprom. Os 4 bytes na memória eeprom (0-4) são: B4 A2 91 4D e o PC (VS Studio) o reconstrói corretamente como 3.054199 * 10 ^ 8 (o valor do ponto flutuante que eu sei que ...

A conversão de Int para Float perde precisão para grandes números no Swift

XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...

problemas na comparação de ponto flutuante [duplicado]

Esta pergunta já tem uma resposta aqui: aída estranha em comparação de float com float literal [/questions/1839422/strange-output-in-comparison-of-float-with-float-literal] 8 respostasvoid main() { float f = 0.98; if(f <= 0.98) printf("hi"); ...

Converter float IEEE 754 com sinal assinado para representação hexadecimal

A condição "maior que" do MySQL às vezes retorna a linha com o mesmo valor

Estou enfrentando um problema desconcertante com uma consulta básica do MySQL. Esta é a minha mesa: id | rating 1 | 1317.17 2 | 1280.59 3 | 995.12 4 | 973.88Agora, estou tentando encontrar todas as linhas em que orating coluna é maior que um ...

Melhor maneira de verificar se um ponto flutuante é um número inteiro

[Existem algumas perguntas sobre isso, mas nenhuma das respostas é particularmente definitiva e várias estão desatualizadas com o padrão C ++ atual]. Minha pesquisa mostra que estes são os principais métodos usados para verificar se um valor de ...