Resultados da pesquisa a pedido "precision"
Aritmética de ponto flutuante de meia precisão em chips Intel
É possível executar aritmética de ponto flutuante de meia precisão em chips Intel? Eu sei como carregar / armazenar / converter números de ponto flutuante de meia precisão [1], mas não sei como adicioná-los / multiplicá-los sem converter ...
Análise de precisão flutuante / dupla em 32 dígitos decimais
De um arquivo .c de outro cara, eu vi o seguinte: const float c = 0.70710678118654752440084436210485f;onde ele quer evitar o cálculo desqrt(1/2). Isso pode realmente ser armazenado de alguma forma comC/C++? Quero dizer, sem perder a precisão. ...
Qual é a diferença entre float e double?
Eu li sobre a diferença entre precisão dupla e precisão única. No entanto, na maioria dos casos,float edouble parecem intercambiáveis, ou seja, o uso de um ou de outro não parece afetar os resultados. É este realmente o caso? Quando os carros ...
Como interpreto a precisão e a escala de um número em um banco de dados?
Eu tenho a seguinte coluna especificada em um banco de dados: decimal (5,2) Como se interpreta isso? De acordo com as propriedades da coluna, como visualizadas no SQL Server Management studio, posso ver que isso significa: decimal (precisão ...
Valores numéricos extremos em precisão de ponto flutuante em R
Alguém pode me explicar a seguinte saída. Eu sei que isso tem algo a ver com precisão de ponto flutuante, mas a ordem da magnitude (diferença 1e308) me surpreende. 0: alta precisão > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: muito impreciso > ...
Por que difere a precisão do ponto flutuante em C # quando separados por parênteses e quando separados por instruções?
Estou ciente de como a precisão do ponto flutuante funciona nos casos regulares, mas me deparei com uma situação estranha no meu código C #. Por que result1 e result2 não são exatamente o mesmo valor de ponto flutuante aqui? const float A; // ...
fopen / fopen_s e gravando em arquivos
Estou usando fopen em C para gravar a saída em um arquivo de texto. A declaração da função é (ondeARRAY_SIZE foi definido anteriormente): void create_out_file(char file_name[],long double *z1){ FILE *out; int i; if((out = fopen(file_name, "w+")) ...
Como o JavaScript determina o número de dígitos a serem produzidos ao formatar valores de ponto flutuante?
Em JavaScript, todo mundo conhece o famoso cálculo:0.1 + 0.2 = 0.30000000000000004. Mas por que o JavaScript imprime esse valor em vez de imprimir de maneira mais precisa e precisa0.300000000000000044408920985006?
Por que adicionar 0,1 várias vezes permanece sem perdas?
Eu conheço o0.1 o número decimal não pode ser representado exatamente com um número binário finito (explicação [http://www.exploringbinary.com/why-0-point-1-does-not-exist-in-floating-point/] ), tãodouble n = 0.1 perderá alguma precisão e não ...
A precisão do Math.log2 mudou no Chrome
Eu escrevi um programa JavaScript que calcula a profundidade de uma árvore binária com base no número de elementos. Meu programa está funcionando bem há meses, mas recentemente descobri uma diferença quando a página da web é visualizada no Chrome ...