Resultados de la búsqueda a petición "floating-point"

3 la respuesta

¿Cómo calcular el número de dígitos después del punto flotante en iOS?

¿Cómo puedo calcular el número de dígitos después del punto flotante en iOS?Por ejemplo:3.105 debe devolver 33.0 debería devolver 02.2 debe devolver 1Actuali...

2 la respuesta

¿Cómo convertir muestras de pcm en una matriz de bytes como números de punto flotante en el rango de -1.0 a 1.0 y viceversa?

El algoritmo de remuestreo que utilizo esperaflotador matriz que contiene muestras de entrada en el rango-1.0 a 1.0 . Los datos de audio son16 bits PCM con f...

1 la respuesta

Uso de iPhone / Objective C CGFloats: ¿Está bien 0.1, o debería ser 0.1f?

1 la respuesta

Números desnormalizados - Punto flotante IEEE 754

3 la respuesta

¿Qué es el doble largo en x86-64?

Alguien me dijo que:Bajo x86-64, la aritmética FP se realiza con SSE y, por lo tanto, el doble largo es de 64 bits.Pero en el ABI x86-64 dice que:

2 la respuesta

C dinámicamente printf doble, sin pérdida de precisión y sin ceros finales

Soy nuevo en C y estoy aprendiendo de un libro / fuera de internet. Estoy tratando de escribir una función que puedo pasar cualquier

9 la respuesta

Error de pecado, cos, bronceado y redondeo.

5 la respuesta

¿Por qué SSE scalar sqrt (x) es más lento que rsqrt (x) * x?

3 la respuesta

Comparando valores de punto flotante

Acabo de leer una declaración sobre la comparación de valores de punto flotanteLos valores de punto flotante no se compararán utilizando los operadores == o!...

3 la respuesta

¿Cómo controlar si C math usa SSE2?

Entré en el ensamblaje de las funciones matemáticas trascendentales de la biblioteca C con MSVC en fp: modo estricto. Todos parecen seguir el mismo patrón, e...