Resultados da pesquisa a pedido "floating-point"
its de precisão flutuante
Neste wikiartig [http://en.wikipedia.org/wiki/Single_precision_floating-point_format] mostra 23 bits para precisão, 8 para expoente e 1 para sinal nde está o 24º bit oculto no tipo float que produz (23 + 1) para 7 dígitos significativo
Java: Por que devemos usar BigDecimal em vez de Double no mundo real? [duplicado
Esta pergunta já tem uma resposta aqui: Double vs. BigDecimal? [/questions/3413448/double-vs-bigdecimal] 8 respostas Ao lidar com valores monetários do mundo real, aconselho-o a usar o BigDecimal em vez do Double.Mas não tenho uma explicação ...
possível remover erros de ponto flutuante sem recorrer a tipos de dados de precisão arbitrári
u estava pensando se, sob condições específicas, é possível remover erros de ponto flutuante sem recorrer a tipos de dados de precisão arbitrári O problema é o habitual. O idioma é Ruby, mas é válido em qualquer idioma: f = 1829.82 => 1829.82 ...
Java - Converte hex para IEEE-754 float de 64 bits - precisão dupla
Estou tentando converter a seguinte sequência hexadecimal: "41630D54FFF68872" para 9988776.0 (float-64). Com um único flutuador de precisão 32, eu faria: int intBits = Long.valueOf("hexFloat32", 16).intValue(); float floatValue ...
Por que o GCC não otimiza a * a * a * a * a * a para (a * a * a) * (a * a * a)?
Estou fazendo alguma otimização numérica em um aplicativo científico. Uma coisa que notei é que o GCC otimiza a chamadapow(a,2) compilando-o ema*a, mas a chamadapow(a,6) não é otimizado e, na verdade, chama a função de bibliotecapow, o que ...
recisão da multiplicação de precisão dupla em jav
Qual é a precisão garantida do operador de multiplicação para valores duplos em java? Por exemplo, 2.2 * 100 é 220.00000000000003, mas 220 é um número duplo. 220.00000000000003 é o próximo dobro após 220.
Converter da sequência de notação científica para flutuar em C #
Qual é a maneira correta de converter uma sequência de notação científica como "1.234567E-06" para uma variável de ponto flutuante usando C #?
obre a precisão do ponto flutuante: por que os números de iteração não são iguai
Existem dois programas matlab semelhantes, um que repete 10 vezes e outro que repete 11 veze 1 i = 0; x = 0.0; h = 0.1; while x < 1.0 i = i + 1; x = i * h; disp([i,x]); end Outro i = 0; x = 0.0; h = 0.1; while x < 1.0 i = i + 1; x = x + h; ...
Boa maneira de hash um vetor de flutuação?
Estou ciente de todos os problemas envolvidos na comparação de carros alegóricos. Essa é exatamente a razão dessa pergunta. Estou procurando criar uma tabela de hash rápida para valores que são vetores 3D (3 flutuadores - x, y, z). Pode-se supor ...
Por que a conversão de float para varchar está sendo arredondada no SQL Server
Seguindo sql declare @a as float, @b as float select @a=1.353954 , @b=1.353956 select CAST(@a as VARCHAR(40)) AS a_float_to_varchar , CAST(@b as VARCHAR(40)) AS b_float_to_varcharresulta e a_float_to_varchar b_float_to_varchar ...