Resultados da pesquisa a pedido "precision"
Saída estranha ao comparar os mesmos valores de flutuação?
Comparando os mesmos valores flutuantes em C [https://stackoverflow.com/questions/9850663/comparing-same-float-values-in-c] saída estranha em comparação de float com float ...
Quais são as regras que regem os cálculos mistos de precisão simples e dupla de C ++?
Por exemplo, estas variáveis: result (double) a (double) b (float) c (float) d (double)Um cálculo simples: result = a * (b + c) * dComo e quando os tipos são convertidos e como faço para descobrir com que precisão cada cálculo é realizado?
Exceção de ponto flutuante ao ler valores reais de um arquivo de entrada
Eu tento ler um valor flutuante de um arquivo de entrada noFortran. Para fazer isso, eu uso este código: ... INTEGER :: nf REAL :: re OPEN(newunit=nf, file='toto.txt') READ(unit=nf, fmt=*) re ...com toto.txt um arquivo de texto que contém meu ...
No MATLAB, as variáveis são REALMENTE de precisão dupla por padrão?
Essa questão surgiu de algo estranho que eu notei depois de investigaressa questão [https://stackoverflow.com/q/4222257/52738]mais distante... Eu sempre entendi as variáveis MATLAB comodupla ...
Problema no Float json_encode () do PHP7.1
Esta não é uma pergunta, pois é mais um estar ciente. Eu atualizei um aplicativo que usajson_encode() para o PHP7.1.1 e eu estava vendo um problema com os flutuadores sendo alterados para às vezes estender 17 dígitos. De acordo com ...
Como calcular precisão e recall em Keras
Estou construindo um classificador de várias classes com o Keras 2.02 (com back-end do Tensorflow) ， e não sei como calcular a precisão e o recall no Keras. Por favor me ajude.
Como 'cout' o número correto de casas decimais de um valor duplo?
Preciso de ajuda para manter a precisão de umdouble. Se eu atribuir um literal a um dobro, o valor real será truncado. int main() { double x = 7.40200133400; std::cout << x << "\n"; }Para o trecho de código acima, a saída foi7.402 Existe uma ...
Loucura de precisão de servidor SQL
Estou tendo um problema com a precisão do servidor sql. Eu tenho as seguintes consultas: DECLARE @A numeric(30,10) DECLARE @B numeric(30,10) SET @A = 20.225 SET @B = 53.3875 SELECT @A * @B DECLARE @A1 numeric(30,14) DECLARE @B1 numeric(30,14) ...
Qual é o método mais preciso em python para calcular a solução de norma mínima ou a solução obtida a partir do pseudo-inverso?
Meu objetivo é resolver: Kc=ycom o pseudo-inverso (ou seja,solução de norma mínima): c=K^{+}yde modo que o modelo seja (esperançosamente) modelo polinomial de alto grauf(x) = sum_i c_i x^i. Estou especialmente interessado no caso ...
O MATLAB está arredondando para o número inteiro mais próximo
eu tenho um1x50000 matriz de tamanhov e eu quero convertê-lo para média zero e variação de unidade: x = ((v-mean(v))/std2(v));Mas, em vez de me fornecer valores exatos de ponto flutuante, o MATLAB está convertendo para números inteiros mais ...