Результаты поиска по запросу "floating-point"
Как увеличить число на 0,01 в JavaScript, используя цикл?
проблемаЯ пытался составить список высот в консоли по метрам, начиная с 1,20 м и заканчивая 2,50 м. Я использовал этот код: var heights = []; for ( var i=1.20, l=2.5; i<l; i+=0.01 ){ heights.push(i); } heights = heights.join('\n');Если ...
Конечно это:
аюсь сгенерировать случайное число между двумя числами с плавающей запятой (максимум увеличивается на половину) это то, что я до сих пор, но это не работает //range NSString *minString = [dict objectForKey:@"min"]; float minRange = [minString ...
он содержит определение функций (например, sin), которые будут доставлять большее количество цифр.
у реализовать калькулятор синуса и косинуса в ios4: if([operation isEqual:@"sin"]){ operand = (operand*M_PI/180.0); operand=sin(operand); }Код дает мне правильный ответ для значений от 0 до 90. Когда я даю значение 180, я получаю1.22465e-16 как ...
библиотека делает нечто подобное для чисел с плавающей запятой, которые близки к целым числам.
ти, я конвертирую float в int, но у меня не всегда есть ожидаемое значение. Вот код, который я выполняю: х = 2,51 print("--------- 251.0") y = 251.0 print(y) print(int(y)) print("--------- 2.51 * 100") y = x * 100 print(y) print(int(y)) ...
Спасибо за ответ @ysth. Я хотел знать, почему значение не было сохранено при преобразовании десятичных чисел в двоичные. Тем не менее, ваш ответ не побудил меня подумать, не является ли это типизацией, которую я не понял.
исал следующую программу: #include<stdio.h> int main(void) { float f; printf("\nInput a floating-point no.: "); scanf("%f",&f); printf("\nOutput: %f\n",f); return 0; }Я нахожусь на Ubuntu и использовал GCC для компиляции вышеуказанной программы. ...
Почему IEEE 754 резервирует так много значений NaN?
Кажется, что стандарт IEEE 754 определяет 16 777 214 32-битных значений с плавающей запятой как NaN, или 0,4% от всех возможных значений. Интересно, каково обоснование для того, чтобы зарезервировать так много полезных значений, в то время как ...
Вы можете изменить точность самостоятельно, изменив целочисленные значения в
ой код: x = 1.0 y = 100000.0 print x/yМой коэффициент отображается как1.00000e-05 Есть ли способ подавить научную нотацию и заставить ее отображать как0.00001? Я собираюсь использовать результат в виде строки.
Извините за опоздание
aScript, при преобразовании из числа с плавающей точкой в строку, как я могу получить только 2 цифры после десятичной точки? Например, 0,34 вместо 0,3445434.
, Как я сказал в комментарии к другому ответу, в .NET,
у (почти) IEEE 854-совместимую реализацию с плавающей запятой в TeX (которая поддерживает только 32-разрядные целые числа). Этот стандарт определяет только результат+, -, *, /, сравнение, остаток иsqrt: для этих операций результат должен быть ...
инструкция, которую следует использовать вместо общей итерации Ньютона.
ия быстрого обратного квадрата, используемая SGI / 3dfx и особенно в Quake, часто упоминается как более быстрая, чем эквивалентная инструкция по сборке, однако сообщения, утверждающие, что это выглядит довольно устаревшим. Мне было интересно ...