Результаты поиска по запросу "floating-point"
Как поплавок представлен в шестнадцатеричном формате?
Я передаю данные на подчиненное устройство с iPhone, где для передачи требуется 16-битное значение данных. Теперь у меня есть значение с плавающей точкой, ко...
Как я могу определить, есть ли у поплавка повторяющееся десятичное расширение в C #?
Мне просто нужно знать, как я могу обнаружить повторяющееся десятичное расширение в числах с плавающей запятой. Пример: 0.123456789123456789 Повторяющаяся...
Как вы округляете десятичные разряды в C ++?
Мне нужна помощь для округления значения с плавающей запятой до одного десятичного знака. я знаю
Отправка числа с плавающей запятой с сервера на клиент
я используюTCP/IP программирование сокетов. у меня естьfloating point value хранится в переменнойret_val в коде моего сервера, который я хочу отправить клиен...
1e-9 или -1e9, какой из них правильный? [закрыто]
Мне присваивается какой-то старый код, и когда я его читал, я заметил, что он имеет вид:
Какое наименьшее ненулевое положительное число с плавающей точкой в Perl?
У меня есть программа на Perl, которая работает с вероятностями, которые иногда могут быть очень маленькими. Из-за ошибки округления иногда одна из вероятнос...
Какие значения не могут быть правильно представлены двойным
Тип данных Double не может правильно представлять некоторые базовые 10 значений. Это из-за того, что числа с плавающей запятой представляют действительные чи...