número flutuante não é o número esperado após a subtração

Question

Nov 07, 2012, 06:32 AM

Eu tenho a seguinte declaração:

float diff = tempVal - m_constraint.getMinVal();

tempVal é declarado como um float e ogetMinVal() retorna um valor flutuante.

Eu tenho a seguinte impressão:

diff = 0.099999905, tempVal = 5.1, m_constraint.getMinVal () = 5.0

Espero que odiff é0,1 mas não o número acima. Como fazer isso?

questionAnswers(4)

Localização - como obter a localidade do cliente no asp.net mvc?

Armazenar data incompleta no campo de data do MySQL

ProgressDialog não mostrando durante a execução de uma tarefa

Como evitar a rolagem do Vim ao dividir uma janela?

Existe um pacote recomendado para aprendizado de máquina em Python? [fechadas]