número flutuante não é o número esperado após a subtração

Question

Nov 07, 2012, 06:32 AM

Eu tenho a seguinte declaração:

float diff = tempVal - m_constraint.getMinVal();

tempVal é declarado como um float e ogetMinVal() retorna um valor flutuante.

Eu tenho a seguinte impressão:

diff = 0.099999905, tempVal = 5.1, m_constraint.getMinVal () = 5.0

Espero que odiff é0,1 mas não o número acima. Como fazer isso?

questionAnswers(4)

Como posso passar parâmetros variáveis para uma função Javascript usando o Excel VBA

Posicionamento da janela c #

Como agrupar View, ViewModel e DataTemplate em um aplicativo WPF para facilitar a reutilização?

Chamar para uma função de membro bind_param () em um não-objeto (incapaz de resolver apesar da pesquisa)

É possível redefinir o ServicePointManager?