Результаты поиска по запросу "floating-point-precision"
двойное и плавающее сравнение [дубликаты]
На этот вопрос уже есть ответ здесь:Сравнивая поплавок и двойник 3 ответаВ соответствии сэта почтапри сравнении числа с плавающей точкой и числа с двойным чи...
sizeof long double и точность не совпадают?
Рассмотрим следующий код C:
Как избежать ошибок с плавающей запятой?
Я пытался написать функцию для аппроксимации квадратных корней (я знаю, чтос математическим модулем ... я хочу сделать это сам), и меня облажала арифметика с...
простые числа с плавающей точкой теряют точность
Я использую Delphi XE2 Update 3. Есть проблемы точности даже с простейшими числами с плавающей запятой (например,3,7). Учитывая этот код (32-битное консольно...