Результаты поиска по запросу "floating-point"
iOS Objective-C Как получить 2 десятичных округленных значения с плавающей точкой?
у меня есть float a = 1412.244019;и мне нужно округлить до ближайшего второго десятичного знака, как 1412.24000000. Я понимаю, что если я хочу представить только два десятичных знака, я использую% .2f, но это не так. Мне нужно новое ...
Вычисление правильно округленного / почти правильно округленного кубического корня с плавающей точкой
Предположим, что правильно округленные стандартные библиотечные функции, такие как найденные вCRlibm [http://lipforge.ens-lyon.fr/www/crlibm/]доступны. Тогда как можно вычислить правильно округленный кубический корень из входных данных двойной ...
Сравнение чисел с плавающей запятой в Python
Я просто рассматриваю некоторые основы Python, и есть сложная проблема со сравнением чисел с плавающей запятой.
Как быстро проверить, подходит ли двойник в поплавке? (Джава)
Существуют ли некоторые арифметические или побитовые операции, которые могут проверить, вписывается ли двойник в число с плавающей точкой без потери точности...
C #: конвертировать байтовый массив в число с плавающей точкой
У меня есть байтовый массив размером 4
байты конвертируются в float (php)
Как я могу конвертировать из байтов, чтобы плавать в php? Как в Java
Преобразование 4 необработанных байтов в 32-битную с плавающей точкой
Я пытаюсь воссоздать 32-разрядное значение с плавающей точкой из EEPROM.4 байта в памяти EEPROM (0-4): B4 A2 91 4Dи ПК (VS Studio) корректно восстанавливает ...
Лучший способ проверить, является ли число с плавающей точкой целым числом
[Есть несколько вопросов по этому вопросу, но ни один из ответов не является окончательным, и некоторые из них не соответствуют текущему стандарту C ++].Мои ...
Арифметика с плавающей точкой слишком надежна
Я понимаю, что арифметика с плавающей точкой в современных компьютерных системах не всегда соответствует реальной арифметике. Я пытаюсь создать небольшую п...