Результаты поиска по запросу "floating-point-conversion"

7 ответов

Преобразование поплавка в символ *

Как я могу конвертировать

2 ответа

Преобразование Int в Float теряет точность для больших чисел в Swift

XCode 6.3.1 Swift 1.2

6 ответов

Чтение плавает в массив

Как я мог прочитать, скажем, 10 поплавков и сохранить их в массиве без потери памяти?

ТОП публикаций

1 ответ

@Zboson: GPU mandelbrot, вероятно, не о масштабировании или его полезности, а скорее о хорошо известной и простой проблеме с очень высокой вычислительной интенсивностью / низкой пропускной способностью памяти. (И цепочка зависимости данных, которая может ограничивать ILP). На этой странице были и другие ориентиры, но мне нравится Мандельброт.

ли выполнить арифметику с плавающей запятой половинной точности на чипах Intel? Я знаю, как загружать / хранить / преобразовывать числа с плавающей запятой половинной точности [1], но я не знаю, как добавить / умножить их без преобразования в ...

2 ответа

проблемы в сравнении с плавающей запятой [дубликаты]

На этот вопрос уже есть ответ: странный вывод в сравнении с плавающей точкой с литералом [/questions/1839422/strange-output-in-comparison-of-float-with-float-literal] 8 ответовvoid main() { float f = 0.98; if(f <= 0.98) printf("hi"); ...

3 ответа

Преобразовать подписанное число IEEE 754 с плавающей точкой в шестнадцатеричное представление

Я использую внешний интерфейс Lua, который, к сожалению, устарел, поэтому я застрял здесь с версией 5.1, то естьbit32 библиотека недоступна (что я, вероятно, мог бы использовать, чтобы преобразовать это). Поэтому мне интересно, знает ли ...

7 ответов

Работа с числами и числами

Я создал банкоматную программу, которая хранит деньги на счету человека. Когда человек снимает деньги со счета, он вычитает их со счета вместе с доплатой в размере .50. У меня проблема в работе с целыми числами и числами с плавающей запятой. Я ...

4 ответа

Количество значащих цифр для типа с плавающей точкой

Описание для типа

9 ответов

Ограничить точность с плавающей точкой?

Есть ли способ округлить числа с плавающей точкой до 2? Например.:

12 ответов

Лучший способ проверить, является ли число с плавающей точкой целым числом

[Есть несколько вопросов по этому вопросу, но ни один из ответов не является окончательным, и некоторые из них не соответствуют текущему стандарту C ++].Мои ...