Точность Matlab: простое вычитание не равно нулю

Question

Oct 27, 2011, 05:43 PM

Я вычисляю эту простую сумму на Matlab:

2*0.04-0.5*0.4^2 = -1.387778780781446e-017

но результат не ноль. Что я могу сделать?

Ответы на вопрос(5)

Не удается установить заголовок Content-Type в заголовках HttpResponseMessage?

Rails часовой пояс и летнее время

JLayer Mono Mp3 в PCM декодирование

Как я могу инициализировать Java FacesServlet

Отправить HTTP Post Payload с Java