Результаты поиска по запросу "floating-point"
Ошибка типа: объект 'float' не повторяется
Я использую python 3.2.2 в Windows 7 и пытаюсь создать программу, которая принимает 7 чисел, а затем сообщает пользователю, сколько положительных, сколько отрицательных и сколько нулевых. это то, что я получил до сих пор: count=7 for i in count: ...
Как функция printf обрабатывает спецификацию% f?
У меня есть пара программ, вывод которых я не могу понять: Программа 1#include <stdio.h> int main(void) { int i=1; float k=2; printf("k is %f \n",k); printf("i is %f \n",i); return 0; }Выход вhttp://codepad.org/ZoYsP6dc ...
Есть ли окончательное решение для ошибок JavaScript с плавающей точкой?
Я пишу линейку бизнес-приложений. Я хотел бы создать клиентскую часть, используя Javascript, и пытаюсь выяснить, как для бизнес-пользователя справляться с ошибками с плавающей запятой (я понимаю, что с точки зрения компьютерных наук они не могут ...
в Java, как удалить все 0 в float?
Я хотел бы изменить float следующим образом: 10.5000 -> 10.5 10.0000 -> 10 Как я могу удалить все нули после десятичной запятой и изменить ее на float (если есть ненулевые значения) или на int (если были только нули)? Заранее спасибо.
Что такое субнормальное число с плавающей точкой?
ссылка isnormal () [http://en.cppreference.com/w/cpp/numeric/math/isnormal] говорит: Определяет, является ли данное число с плавающей точкой arg нормальным, то есть не является ли оно нулевым, субнормальным, бесконечным или NaN. Число ноль, ...
Как округлить число с плавающей точкой до указанного числа значащих цифр в Ruby?
Было бы неплохо иметь эквивалентЗначение R [http://rss.acs.unt.edu/Rdoc/library/base/html/Round.html]функция в рубине. Например: >> (11.11).signif(1) 10 >> (22.22).signif(2) 22 >> (3.333).signif(2) 3.3 >> (4.4).signif(3) 4.4 # It's usually 4.40 ...
Показывать десятичную точку только в том случае, если компонент с плавающей запятой не равен .00 sprintf / printf
Я довольно форматирую число с плавающей запятой, но хочу, чтобы оно отображалось как целое число, если нет соответствующего числа с плавающей запятой. То есть 1,20 -> 1,2x1,78 -> 1,78x0,80 -> 0,8x2,00 -> 2xЯ могу добиться этого с ...
Как получить плавающие байты?
Я использую HIDAPI для отправки некоторых данных на USB-устройство. Эти данные могут быть отправлены только в виде байтового массива, и мне нужно отправить некоторые числа с плавающей запятой внутри этого массива данных. Я знаю, что float имеет 4 ...
Странное добавление числовых строк в PHP
Я складываю две числовые строки $ a и $ b, а затем сравниваю результат с другой числовой строкой $ c. Все три числа хранятся в виде строк и преобразуются в числа с плавающей точкой PHP на этапе сравнения. По какой-то причине тест $ a + $ b == $ ...
Чтение плавающих файлов из .txt файла
Как я могу прочитать поплавки из файла .txt. В зависимости от имени в начале каждой строки я хочу прочитать различное количество координат. Поплавки разделены "космосом". Пример:triangle 1.2 -2.4 3.0 Результат должен быть:float x = 1.2 / float ...