Resultados da pesquisa a pedido "floating-point-conversion"
Aritmética de ponto flutuante de meia precisão em chips Intel
É possível executar aritmética de ponto flutuante de meia precisão em chips Intel? Eu sei como carregar / armazenar / converter números de ponto flutuante de meia precisão [1], mas não sei como adicioná-los / multiplicá-los sem converter ...
Como alterar um número float64 para uint64 da maneira correta?
package main func main() { var n float64 = 6161047830682206209 println(uint64(n)) }A saída será: 6161047830682206208Parece que quandofloat64 mudar parauint64, a fração é descartada.
A conversão de Int para Float perde precisão para grandes números no Swift
XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...
Swift: extrair flutuação de dados de bytes
Estou procurando uma maneira robusta e elegante de extrair quatro bytes big-endian de uma matriz como um flutuador. Eu posso obter um UInt32 com os bits através de algo como isto: let data: [Byte] = [0x00, 0x00, 0x00, 0x40, 0x86, 0x66, 0x66, ...
Melhor maneira de verificar se um ponto flutuante é um número inteiro
[Existem algumas perguntas sobre isso, mas nenhuma das respostas é particularmente definitiva e várias estão desatualizadas com o padrão C ++ atual]. Minha pesquisa mostra que estes são os principais métodos usados para verificar se um valor de ...
Convertendo 4 bytes brutos em ponto flutuante de 32 bits
Estou tentando reconstruir um valor de ponto flutuante de 32 bits de um eeprom. Os 4 bytes na memória eeprom (0-4) são: B4 A2 91 4D e o PC (VS Studio) o reconstrói corretamente como 3.054199 * 10 ^ 8 (o valor do ponto flutuante que eu sei que ...
Por que str (float) retorna mais dígitos no Python 3 do que no Python 2?
No Python 2.7,repr de umfloat retorna o número decimal mais próximo com até 17 dígitos; isso é preciso o suficiente para identificar exclusivamente cada valor possível de ponto flutuante IEEE.str de umfloat trabalhou da mesma forma, exceto que ...
A condição "maior que" do MySQL às vezes retorna a linha com o mesmo valor
Estou enfrentando um problema desconcertante com uma consulta básica do MySQL. Esta é a minha mesa: id | rating 1 | 1317.17 2 | 1280.59 3 | 995.12 4 | 973.88Agora, estou tentando encontrar todas as linhas em que orating coluna é maior que um ...
Como verificar se uma entrada do usuário é flutuante
Estou fazendo o exercício Aprenda Python da maneira mais difícil 35. Abaixo está o código original e pedimos para alterá-lo para que ele possa aceitar números que não possuem apenas 0 e 1. def gold_room(): print "This room is full of gold. How ...
Página 1 do 2