Resultados da pesquisa a pedido "floating-point"

4 a resposta

Python float - str - float estranheza

12 a resposta

Como você arredondar um número de ponto flutuante em Perl?

Como posso arredondar um número decimal (ponto flutuante) para o inteiro mais próximo?por exemplo.

3 a resposta

Método intBitsToFloat em Java VS C #?

Estou recebendo o número errado ao converter bits para flutuar em C #.Vamos usar esse bit

6 a resposta

iOS Objective-C Como obter 2 valores de float arredondados decimais?

2 a resposta

Calculando uma raiz cúbica de ponto flutuante corretamente arredondada / quase arredondada

1 a resposta

Qual é a diferença entre o NaN quieto e a sinalização NaN?

Eu li sobre o ponto flutuante e eu entendo que o NaN poderia resultar de operações. mas não consigo entender exatamente o que são esses conceitos. O que é di...

2 a resposta

Um cálculo de Monte Carlo pi pode ser usado para um recorde mundial?

Eu tenho essa função aleatória para calcular piEstilo Monte Carlo:

6 a resposta

Como você verifica valores infinitos e indeterminados em C ++?

Nos meus programas, o infinito geralmente surge quando um valor é dividido por zero. Fico indeterminado quando divido zero por zero. Como você verifica valores infinitos e indeterminados em C ++? Em C ++, o infinito é representado por 1. # INF. ...

3 a resposta

Erro do compilador C (aritmética de ponto flutuante)?

#include<stdio.h> int main() { double fract=0; int tmp; //scanf("%lf",&fract); fract=0.312; printf("%lf",fract); printf("\n\n"); while(fract>0){ fract*=(double)10; printf("%d ",(int)fract); fract-=(int)fract; } getch(); return 0; }este código ...

2 a resposta

Math.Round (double, decimal) sempre retorna resultados consistentes

É claro que nunca se deve comparar valores de ponto flutuante que resultam de um cálculo de igualdade, mas sempre use uma pequena tolerância, por exemplo: