Por que as funções aritméticas do GLSL produzem resultados tão diferentes no iPad do que no simulador?

Qual é o menor número de ponto flutuante positivo diferente de zero em Perl?

Eu tenho um programa em Perl que funciona com probabilidades que ocasionalmente podem ser muito pequenas. Por causa do erro de arredondamento, às vezes uma d...

Java pesquisando o número float na string

Função Arredondar (planilha um) no Excel

Usando o Excel 2013, digitar isso em duas células gera resultados diferentes. =ROUND((10.45-10.00)/1,1) = 0.4mas =ROUND(0.45/1,1) = 0.5E eu não tenho idéia do por que esse é o caso. Alguém tem uma explicação?

Por que 'Infinito' não é permitido nos carros alegóricos de Erlang?

Erlang (e por extensão Elixir) suporta números de ponto flutuante. Alguns carros alegóricos possíveis: 1.23451.0e101.0e-42Erlang suporta NaN (nan. em Erlang) (ainda estou para descobrir um método que geranan próprio). No entanto, Erlang não ...

conversão de double para unsigned int

Estou enfrentando um problema com a conversão de valor de Double para int. Eu tento executar o seguinte código:

Comportamento de ponto flutuante estranho no PHP

Tendo um problema estranho:

Exibindo a saída de uma variável para mais de duas casas decimais

Estou tentando exibir a saída da minha adição para mais de duas casas decimais.

Fundição float int (bit a bit) em C

Converter int para flutuar em C (sem conversão) [closed]

Como faço para converter um int em um float (retornado como não assinado, mas interpretado como um float)? Não posso usar construções de linguagem de alto ní...