Resultados da pesquisa a pedido "precision"
Saída estranha ao comparar os mesmos valores de flutuação?
Comparando os mesmos valores flutuantes em C [https://stackoverflow.com/questions/9850663/comparing-same-float-values-in-c] saída estranha em comparação de float com float ...
Por que 5/2 resulta em '2' mesmo quando uso um flutuador? [duplicado
Esta pergunta já tem uma resposta aqui: Qual é o comportamento da divisão inteira? [/questions/3602827/what-is-the-behavior-of-integer-division] 5 respostas Digitei o código a seguir (e não tive problemas de compilação nem nada): float y = ...
Determinismo nas atualizações de gradiente de fluxo tensorial?
Então, eu tenho um script NN muito simples, escrito em Tensorflow, e estou tendo dificuldades para tentar descobrir de onde vem alguma "aleatoriedade". Eu gravei o Pesos,Gradientes,Logitsda minha rede enquanto treino, e para a ...
Acelere a geração de números aleatórios no MATLAB
Existe alguma maneira de gerar números pseudo-aleatórios com menos precisão e, assim, acelerar o processo? Outra coisa é que sei que economiza tempo se números aleatórios forem gerados de uma só vez (por exemplo,rand(100,1000)), em vez de um por ...
Por que 'Infinito' não é permitido nos carros alegóricos de Erlang?
Erlang (e por extensão Elixir) suporta números de ponto flutuante. Alguns carros alegóricos possíveis: 1.23451.0e101.0e-42Erlang suporta NaN (nan. em Erlang) (ainda estou para descobrir um método que geranan próprio). No entanto, Erlang não ...
Qual é a precisão dos cálculos de ponto flutuante no Scilab?
Nota: usei a tag Matlab para o caso de eles manterem a mesma precisão. (Pelo que sei, os dois programas são muito semelhantes.) Como acompanhamento de uma pergunta anterior minha ...
Existe alguma biblioteca padrão para converter float64 em string com largura de correção com número máximo de dígitos significativos?
Imagine para imprimir em uma tabela de 12 larguras fixas que precisamos imprimirfloat64 números: fmt.Printf("%12.6g\n", 9.405090880450127e+119) //"9.40509e+119" fmt.Printf("%12.6g\n", 0.1234567890123) //" 0.123457" ...
Como determinar a precisão máxima para o dobro
Estou tentando determinar qual é a precisão máxima para um duplo. Nos comentários da resposta aceita neste linkMantenha a precisão com o dobro em Java [https://stackoverflow.com/questions/322749/retain-precision-with-double-in-java] @PeterLawrey ...
Golang convertendo float64 em erro int
Como evitar erros de ponto flutuante ao converter float em int. Por exemplo, o código a seguir é impresso:0.5499999999999972 quando acabo, espero que imprima0.55. package main import "fmt" func main() { x := 100.55 fmt.Println(x ...
Matlab vs C ++ Double Precision
Estou portando algum código do Matlab para C ++. Na Matlab format long D = 0.689655172413793 (this is 1.0 / 1.45) E = 2600 / D // I get E = 3.770000000000e+03Em C ++ double D = 0.68965517241379315; //(this is 1.0 / 1.45) double E = 2600 / D; ...