Resultados da pesquisa a pedido "floating-point"
Qual é o comportamento na conversão de um valor de ponto flutuante negativo em um int não assinado?
O que acontece se um valor negativo de ponto flutuante é convertido em um valor do tipo integral não assinado? Citações padrão seriam apreciadas. O problema que estou enfrentando é a conversão em valores de tipos integrais não assinados de uma ...
Infinito para loop com flutuador
Considere o seguinte código: for (float i = 0f; i < int.MaxValue; i++) { // Some code }Que deveria fazer um loop de0 paraint.MaxValue (231-1), mas não. Uma vezi atingiu 224, i++ não funciona mais por um motivo que eu sou totalmente incapaz de ...
Por que o Excel não arredonda de acordo com o IEEE 754 de 8 bytes
A expressão a seguir avalia comofalse em c #: (1 + 1 + 0.85) / 3 <= 0.95E suponho que o faça na maioria das outras linguagens de programação que implementam o IEEE 754, já que(1 + 1 + 0.85) / 3 avalia como0.95000000000000007, que é maior ...
Existe alguma biblioteca padrão para converter float64 em string com largura de correção com número máximo de dígitos significativos?
Imagine para imprimir em uma tabela de 12 larguras fixas que precisamos imprimirfloat64 números: fmt.Printf("%12.6g\n", 9.405090880450127e+119) //"9.40509e+119" fmt.Printf("%12.6g\n", 0.1234567890123) //" 0.123457" ...
Como imprimir o valor flutuante do arquivo binário no shell?
Eu tenho um arquivo binário que consiste no valor de flutuação dupla (8 bytes) ou apenas flutuação (4 bytes) que foi gerado da seguinte maneira: $ python -c $'from struct import pack\nwith open("file.bin", "wb") as f: f.write(pack("<d", 0.123))' ...
Em Python, pequenos carros alegóricos tendem a zero
Eu tenho um classificador Bayesiano programado em Python, o problema é que, quando multiplico as probabilidades dos recursos, obtenho valores de flutuação MUITO pequenos, como 2,5e-320 ou algo assim, e de repente ele se transforma em 0,0. ...
Precisão aritmética com dobras no Matlab
Estou com problemas para entender como a precisão dessas dobras afeta o resultado das operações aritméticas no Matlab. Eu pensei que, como os dois a & b são duplos, eles seriam capazes de realizar operações com essa precisão. Sei que pode haver ...
Como arredondar esse número binário para o par mais próximo
Eu tenho essa representação binária de0.1: 0.00011001100110011001100110011001100110011001100110011001100110Preciso arredondá-lo para o mais próximo possível para poder armazená-lo no ponto flutuante de precisão dupla. Não consigo entender como ...
Qual é a melhor maneira de representar System.Decimal em buffers de protocolo?
Seguindo emesta [https://stackoverflow.com/questions/371418/can-you-represent-csv-data-in-googles-protocol-buffer-format] pergunta, qual seria a melhor maneira de representar um objeto System.Decimal em um buffer de protocolo?
Por que não podemos usar '==' para comparar dois números flutuantes ou duplos [duplicado]
Esta pergunta já tem uma resposta aqui: Teste para igualdade de ponto flutuante. (FE_FLOATING_POINT_EQUALITY) [/questions/3832592/test-for-floating-point-equality-fe-floating-point-equality] 3 respostasPor que Double.NaN == Double.NaN retorna ...