Результаты поиска по запросу "extended-precision"
Свойства 80-битных вычислений с расширенной точностью, начиная с аргументов двойной точности
Вот две реализации интерполяционных функций. аргументацияu1 всегда между0. а также1.. #include <stdio.h> double interpol_64(double u1, double u2, double u3) { return u2 * (1.0 - u1) + u1 * u3; } double interpol_80(double u1, double u2, double ...
Есть ли документ, описывающий, как Clang обрабатывает избыточную точность с плавающей точкой?
Почти невозможно (*) обеспечить строгую семантику IEEE 754 при разумных затратах, когда разрешено использовать только одну инструкцию с плавающей точкой - 387. Это особенно трудно, когда кто-то хочет, чтобы FPU работал на полном 64-битном ...
Возможно ли практическое использование BigNum AVX / SSE?
Регистры SSE / AVX можно рассматривать как большие числа с целыми числами или числами с плавающей запятой. То есть можно пренебречь тем, что полосы вообще су...