Resultados da pesquisa a pedido "floating-point"
Alternativas para inicialização de ponto flutuante em tempo de compilação
Atualmente, estou trabalhando em uma implementação baseada em modelo-meta-programação de aritmética de ponto flutuante. O modelo que representa valores flutuantes em tempo de compilação é o seguinte: template<bool S , std::int16_t E , ...
Por que FLT_MIN é igual a zero?
limits.h especifica limites para tipos de matemática de ponto não flutuante, por exemploINT_MIN eINT_MAX. Esses valores são os valores mais negativos e mais positivos que você pode representar usando um int. Nofloat.h, existem definições ...
Cálculo de ponto flutuante vs número inteiro no hardware moderno
Estou fazendo um trabalho crítico de desempenho em C ++ e atualmente estamos usando cálculos inteiros para problemas que são inerentemente ponto flutuante porque "é mais rápido". Isso causa muitos problemas irritantes e adiciona muitos códigos ...
Como verificar se um valor flutuante está dentro de um determinado intervalo e possui um número determinado de dígitos decimais?
Como verificar se um valor flutuante está dentro de um intervalo (0,5050,00) e tem 2 dígitos decimais? Por exemplo, 15.22366 deve ser falso (muitos dígitos decimais). Mas 15,22 deve ser verdade. Eu tentei algo como: data= input() if data in ...
Quais são todos os cálculos possíveis que podem causar um NaN em Python? [fechadas]
Estive pesquisando e parece haver discussões dispersas sobreNaNs em diferentes linguagens de programação, incluindo alguns casos específicos, mas nada exaustivo ou claro. Quais são as operações mais comuns que causariam umNaN, em Python, que ...
Definir precisão e zeros à direita do clipe, mas nunca imprimir o expoente
Eu preciso: Defina a precisão para que os flutuadores sejam arredondados para o centésimo de lugar (0,111 imprime como 0,11)Cortar zeros à direita (1.0 imprime como 1)Nunca imprima um expoente (1000.1 imprime como 1000.1)printf( "%.2f\n", input ...
Math.pow produz resultados diferentes dependendo da versão java
Estou executando o seguinte código em um JDK versão 1.7.0_60: System.out.println(Math.pow(1.5476348320352065, (0.3333333333333333)));O resultado é: 1.1567055833133086 Estou executando exatamente o mesmo código em um JDK versão 1.7.0. O ...
Questões de comparação de ponto flutuante no MySQL
Corri um problema ao introduzir colunas de ponto flutuante no esquema do banco de dados MySQL de que as comparações em valores de ponto flutuante nem sempre retornam os resultados corretos. 1 - 50,12 2 - 34,57 3 - 12,75 4 - ... (descanse todos ...
Por que um resultado de divisão difere com base no tipo de elenco? (Acompanhamento)
Este é um acompanhamento para esta pergunta:Por que um resultado de divisão difere com base no tipo de elenco? [https://stackoverflow.com/questions/25703304/why-does-a-division-result-differ-based-on-the-cast-type] Resumo rápido: byte b1 = ...
Como o erro de ponto flutuante se propaga ao executar operações matemáticas em C ++?
Digamos que declaramos as seguintes variáveis float a = 1.2291; float b = 3.99; float variáveis têm precisão 6, o que (se bem entendi) significa que a diferença entre o número que o computador realmente armazena e o número real desejado ...