Resultados da pesquisa a pedido "precision"
Aritmética de ponto flutuante de meia precisão em chips Intel
É possível executar aritmética de ponto flutuante de meia precisão em chips Intel? Eu sei como carregar / armazenar / converter números de ponto flutuante de meia precisão [1], mas não sei como adicioná-los / multiplicá-los sem converter ...
Como o JavaScript determina o número de dígitos a serem produzidos ao formatar valores de ponto flutuante?
Em JavaScript, todo mundo conhece o famoso cálculo:0.1 + 0.2 = 0.30000000000000004. Mas por que o JavaScript imprime esse valor em vez de imprimir de maneira mais precisa e precisa0.300000000000000044408920985006?
Qual é o método mais preciso em python para calcular a solução de norma mínima ou a solução obtida a partir do pseudo-inverso?
Meu objetivo é resolver: Kc=ycom o pseudo-inverso (ou seja,solução de norma mínima): c=K^{+}yde modo que o modelo seja (esperançosamente) modelo polinomial de alto grauf(x) = sum_i c_i x^i. Estou especialmente interessado no caso ...
Ordem das operações para maximizar a precisão
Estou usando carros alegóricos para estas operações: Qual destes dois é mais preciso? (a * b) / cou (a / c) * bIsso importa ou depende da situação? Em caso afirmativo, qual devo escolher em que casos?
O MATLAB está arredondando para o número inteiro mais próximo
eu tenho um1x50000 matriz de tamanhov e eu quero convertê-lo para média zero e variação de unidade: x = ((v-mean(v))/std2(v));Mas, em vez de me fornecer valores exatos de ponto flutuante, o MATLAB está convertendo para números inteiros mais ...
Por que meu dobro pode conter um valor abaixo do epsilon da máquina?
Eu estava resolvendo uma equação usando precisão dupla e obtive-7.07649e-17 como uma solução em vez de0. Concordo que está perto o suficiente para dizer que é igual, masEu li que a máquina epsilon para o tipo duplo C ++ ...
Calcular o conjunto de Mandelbrot para maior precisão
Existe alguma maneira prática de realizar cálculos, como os envolvidos na geração do Mandelbrot Set, para valores precisos quedouble oulong double pode fornecer? Eu estava pensando em possivelmente ter duas variáveis (duplas ou longas), uma ...
Como calcular precisão e recall em Keras
Estou construindo um classificador de várias classes com o Keras 2.02 (com back-end do Tensorflow) ， e não sei como calcular a precisão e o recall no Keras. Por favor me ajude.
Problema no Float json_encode () do PHP7.1
Esta não é uma pergunta, pois é mais um estar ciente. Eu atualizei um aplicativo que usajson_encode() para o PHP7.1.1 e eu estava vendo um problema com os flutuadores sendo alterados para às vezes estender 17 dígitos. De acordo com ...
Exceção de ponto flutuante ao ler valores reais de um arquivo de entrada
Eu tento ler um valor flutuante de um arquivo de entrada noFortran. Para fazer isso, eu uso este código: ... INTEGER :: nf REAL :: re OPEN(newunit=nf, file='toto.txt') READ(unit=nf, fmt=*) re ...com toto.txt um arquivo de texto que contém meu ...