Resultados da pesquisa a pedido "precision"
Algoritmo Point in Polygon dando resultados errados às vezes [fechado]
Eu vi no StackOverflow um algoritmo de raytracing "point in polygon" que eu implementei no meu PHP Code. Na maioria das vezes, funciona bem, mas em...
Determinismo nas atualizações de gradiente de fluxo tensorial?
Então, eu tenho um script NN muito simples, escrito em Tensorflow, e estou tendo dificuldades para tentar descobrir de onde vem alguma "aleatoriedade". Eu gravei o Pesos,Gradientes,Logitsda minha rede enquanto treino, e para a ...
Obtenha o DateTime.Now com precisão de milissegundos
Como posso construir exatamente um registro de tempo real com precisão de milissegundos?Eu preciso de algo como 16.4.2013 9: 48: 00: 123. Isso é possível? Eu...
Converter número de Java para BigDecimal: melhor maneira
Eu estou procurando a melhor maneira de converter um número para um BigDecimal.Isso é bom o suficiente?
Números de ponto flutuante de alta precisão em Haskell?
Eu sei Haskell tem tipos de dados nativos que permitem que você tenha realmente grandes números inteiros para coisas como
Qual a melhor forma de resumir muitos números de ponto flutuante?
Imagine que você tenha uma grande variedade de números de ponto flutuante, de todos os tipos de tamanhos. Qual é a maneira mais correta de calcular a soma, com o menor erro? Por exemplo, quando a matriz fica assim: [1.0, 1e-10, 1e-10, ... ...
Perda de precisão na adição de duplas?
pessoal! Eu encontrei um pequeno problema: estou fazendo uma adição simples com três valores duplos. O resultado tem uma precisão menor que os valores usados.