Результаты поиска по запросу "floating-point"
Двухбайтовый размер в 32-битной и 64-битной ОС
Есть ли разница вдвойной размер при запуске приложения в 32- и 64-разрядной среде? Если я не ошибаюсь, двойная в 32-битной среде займет 16 цифр после 0, тог...
Преобразовать вектор с плавающей точкой в вектор байтов и обратно
Я пытаюсь выполнить некоторые преобразования между массивами с плавающей точкой и без знака (в данном случае std :: vector), и у меня возникли некоторые проб...
Rails 3 Float или десятичное для GPS-координат
Мне нужно хранить координаты GPS в базе данных. Я слышал, что числа с плавающей точкой менее точны, чем десятичные дроби. Это правда? Если да, то какая причи...
Как читать в поплавках из файла?
Как я могу открыть файл и прочитать с плавающей точкой из файла, если он в строковом формате, в Python? Я также хотел бы изменить значения каждого поплавка и...
Что означают эти три значения с плавающей запятой: положительная бесконечность, отрицательная бесконечность, NaN?
Как мы можем использовать их в наших кодах, и что вызовет NaN (не число)?
Диапазоны типа данных с плавающей точкой в C?
Я читаю книгу на языке C, говоря о диапазонах с плавающей запятой, автор дал таблицу:
Расширенная библиотека с плавающей запятой точности C / C ++
Я ищу расширенную библиотеку с плавающей запятой со следующими функциями: fixed data type size (i.e. the extended precision float takes a fixed amount of m...
Деление и числа с плавающей запятой
Кто-нибудь может мне помочь, почему х2 печатает ноль. Я предполагаю, что из-за представления с плавающей запятой X1 округляется, есть ли способ сохранить пре...
Ошибка округления в два раза в методе .NET Double.ToString
Математически рассмотрим для этого вопроса рациональное число