Результаты поиска по запросу "precision"
@Zboson: GPU mandelbrot, вероятно, не о масштабировании или его полезности, а скорее о хорошо известной и простой проблеме с очень высокой вычислительной интенсивностью / низкой пропускной способностью памяти. (И цепочка зависимости данных, которая может ограничивать ILP). На этой странице были и другие ориентиры, но мне нравится Мандельброт.
ли выполнить арифметику с плавающей запятой половинной точности на чипах Intel? Я знаю, как загружать / хранить / преобразовывать числа с плавающей запятой половинной точности [1], но я не знаю, как добавить / умножить их без преобразования в ...
Спасибо. Если у вас есть какие-то новые открытия, снова комментируйте, пожалуйста, сделайте так, чтобы кодер знал эту проблему.
aScript каждый знает известный расчет:0.1 + 0.2 = 0.30000000000000004, Но почему JavaScript печатает это значение, а не печатает более точный и точный0.300000000000000044408920985006?
как вы на самом деле строите эти алгоритмы
ель - решить: Kc=yс псевдообратным (т.е.минимальная норма решения): c=K^{+}yтакая, что модель является (мы надеемся) полиномиальной моделью высокой степениf(x) = sum_i c_i x^i, Меня особенно интересует недоопределенный случай, когда у нас ...
Просто потому, что там больше данных - что быстрее заполняет кеш процессора, как указано в посте, который вы связали.
ользую поплавки для этих операций: Какой из этих двух является более точным? (а * б) / сили же (а / с) * бЭто имеет значение или зависит от ситуации? Если да, то что мне выбрать в каких случаях?
Как использовать и проверить четкость квадра в gfortran?
Я пытаюсь использовать четкую четкость в gfortran, но кажется, что
десятичное форматирование без округления .net
Вчера спросилэтот общий вопрос о десятичных дробях и их внутренней точности. Вот конкретный вопрос о сценарии, на который я пытаюсь ответить. У меня есть ст...
Деление двух целых чисел для получения результата с плавающей запятой [дубликат]
Possible Duplicate: Why can't I return a double from two ints being divided Моя программа на C ++ усекает вывод моего целочисленного значения, д...
типа работает.
ал уравнение с использованием двойной точности, и я получил