Resultados da pesquisa a pedido "floating-point"
Com que rapidez, verifique se o encaixe duplo no flutuador? (Java)
Existem operações aritméticas ou bit a bit que podem verificar se uma dupla se encaixa em um flutuador sem perda de precisão. Ele não deve apenas verificar se a faixa dupla está na faixa flutuante, mas também se nenhum bit de mantissa é ...
Por que adicionar 0,1 várias vezes permanece sem perdas?
Eu conheço o0.1 o número decimal não pode ser representado exatamente com um número binário finito (explicação [http://www.exploringbinary.com/why-0-point-1-does-not-exist-in-floating-point/] ), tãodouble n = 0.1 perderá alguma precisão e não ...
C #: converter matriz de bytes em um float
Eu tenho uma matriz de bytes de tamanho 4 byte[] source = new byte[4];Agora eu queria converter essa fonte em um valor flutuante de 4 bytes ... Alguém pode me dizer como fazer isso ...
Convertendo 4 bytes brutos em ponto flutuante de 32 bits
Estou tentando reconstruir um valor de ponto flutuante de 32 bits de um eeprom. Os 4 bytes na memória eeprom (0-4) são: B4 A2 91 4D e o PC (VS Studio) o reconstrói corretamente como 3.054199 * 10 ^ 8 (o valor do ponto flutuante que eu sei que ...
bytes convertidos para float (php)
Como posso converter de bytes para flutuar em php? Como em Java int i = (byte3 & 0xff) << 24 | (byte2 & 0xff) << 16 | (byte1 & 0xff) << 8 | byte0 & 0xff; Float.intBitsToFloat(i);
A aritmética de ponto flutuante é muito confiável
Entendo que a aritmética de ponto flutuante, como é executada nos sistemas modernos de computadores, nem sempre é consistente com a aritmética real. Estou tentando criar um pequeno programa C # para demonstrar isso. por exemplo: static void ...
Por que estou recebendo um resultado diferente do std :: fmod e std :: restante
No exemplo de aplicativo abaixo, calculo o restante de ponto flutuante da divisão953 por0.1, usandostd::fmod O que eu estava esperando é que desde953.0 / 0.1 == 9530, questd::fmod(953, 0.1) == 0 Estou entendendo0.1 - porque é esse o caso? Note ...
Melhor maneira de verificar se um ponto flutuante é um número inteiro
[Existem algumas perguntas sobre isso, mas nenhuma das respostas é particularmente definitiva e várias estão desatualizadas com o padrão C ++ atual]. Minha pesquisa mostra que estes são os principais métodos usados para verificar se um valor de ...
Por que o Rust não implementa o pedido total via característica Ord para f64 e f32?
Enquanto todos os tipos inteiros no Rust implementamOrd [http://doc.rust-lang.org/std/cmp/trait.Ord.html]que enfatiza o pedido total, os tipos de ponto flutuante implementam ...
Lerp entre dois valores ao longo do tempo
Estou tentando reduzir um flutuador por um valor de tempo, estou usando o Unity e parando o tempoTime.timeScale = 0f; então não pode usarTime.deltaTime Então, usando 'Time.realtimeSinceStartup' em um loop while, li a variável de volume principal ...