Resultados da pesquisa a pedido "floating-point"
antagens e desvantagens das representações de ponto flutuante e ponto fixo [fechado]
Venho tentando nos últimos três dias entender as diferenças exatas entre representações de ponto flutuante e de ponto fixo. Estou confuso ao ler o material e não consigo decidir o que é certo e o que é errad m dos problemas está no significado ...
Lua: convertendo de float para int
Mesmo que Lua não diferencie números de ponto flutuante e números inteiros, há alguns casos em que você deseja usar números inteiros. Qual é a melhor maneira de converter um número para um número inteiro se você não puder fazer uma conversão ...
O que poderia causar um processo determinístico para gerar erros de ponto flutuante
Já leu issoquestã [https://stackoverflow.com/questions/328622/how-deterministic-is-floating-point-inaccuracy] Estou razoavelmente certo de que um determinado processo usando aritmética de ponto flutuante com a mesma entrada (no mesmo hardware, ...
C ++: Como arredondar um dobro para um int? [duplicado
Possible Duplicate: round () para flutuar em C ++ [https://stackoverflow.com/questions/485525/round-for-float-in-c] Eu tenho um duplo (chame de x), que deveria ter 55 anos, mas na realidade é armazenado como 54.999999999999943157, que acabei de ...
por que f é colocado após os valores flutuantes?
Não sei por que f ou F é colocado após valores flutuantes em Java ou outras linguagens? por exemplo float fVariable = 12.3f;qualquer recurso além de indicar que esse é um valor flutuante?
Precisão em flutuadores C
Geralmente dizemos que um flutuador tem precisão de 6 dígitos após o ponto decimal. Mas se armazenarmos um grande número da ordem de 10 ^ 30, não obteremos 6 dígitos após o ponto decimal. Então, é correto dizer que os carros alegóricos têm uma ...
omo normalizar o áudio, como converter uma matriz flutuante em uma matriz de byte
Oi, estou reproduzindo um arquivo de áudio. Eu li como umbyte[] e, em seguida, preciso normalizar o áudio colocando valores na faixa de [-1,1]. Eu quero colocar cada valor flutuante em umbyte[i] array e depois coloque essebyte[] de volta ao ...
Imprimir flutuadores com um número específico de zeros
ei como controlar o número de casas decimais, mas como faço para controlar especificamente o número de zero Por exemplo 104.06250000 -> 104.0625 119.00000 -> 119.0 72.000000 -> 72.0
O que acontece quando você não é lógic
Presumo que isso retorne apenas um int. Há mais alguma coisa que eu deva estar ciente? Diferenças C / C ++? float a = 2.5; !a; // What does this return? Int? Float?
ponto flutuante de precisão dupla-dupla como soma de dois duplos
Segueapéis e código fonte para aritmética dupla-dupla [http://en.wikipedia.org/wiki/Quadruple-precision_floating-point_format#Double-double_arithmetic] por algum tempo, ainda não consigo descobrir exatamente como um dd_real (definido comostruct ...