Результаты поиска по запросу "floating-point-conversion"
Преобразование поплавка в символ *
Как я могу конвертировать
Преобразование Int в Float теряет точность для больших чисел в Swift
XCode 6.3.1 Swift 1.2
Чтение плавает в массив
Как я мог прочитать, скажем, 10 поплавков и сохранить их в массиве без потери памяти?
@Zboson: GPU mandelbrot, вероятно, не о масштабировании или его полезности, а скорее о хорошо известной и простой проблеме с очень высокой вычислительной интенсивностью / низкой пропускной способностью памяти. (И цепочка зависимости данных, которая может ограничивать ILP). На этой странице были и другие ориентиры, но мне нравится Мандельброт.
ли выполнить арифметику с плавающей запятой половинной точности на чипах Intel? Я знаю, как загружать / хранить / преобразовывать числа с плавающей запятой половинной точности [1], но я не знаю, как добавить / умножить их без преобразования в ...
проблемы в сравнении с плавающей запятой [дубликаты]
На этот вопрос уже есть ответ: странный вывод в сравнении с плавающей точкой с литералом [/questions/1839422/strange-output-in-comparison-of-float-with-float-literal] 8 ответовvoid main() { float f = 0.98; if(f <= 0.98) printf("hi"); ...
Преобразовать подписанное число IEEE 754 с плавающей точкой в шестнадцатеричное представление
Я использую внешний интерфейс Lua, который, к сожалению, устарел, поэтому я застрял здесь с версией 5.1, то естьbit32 библиотека недоступна (что я, вероятно, мог бы использовать, чтобы преобразовать это). Поэтому мне интересно, знает ли ...
Работа с числами и числами
Я создал банкоматную программу, которая хранит деньги на счету человека. Когда человек снимает деньги со счета, он вычитает их со счета вместе с доплатой в размере .50. У меня проблема в работе с целыми числами и числами с плавающей запятой. Я ...
Ограничить точность с плавающей точкой?
Есть ли способ округлить числа с плавающей точкой до 2? Например.:
Лучший способ проверить, является ли число с плавающей точкой целым числом
[Есть несколько вопросов по этому вопросу, но ни один из ответов не является окончательным, и некоторые из них не соответствуют текущему стандарту C ++].Мои ...