Resultados de la búsqueda a petición "floating-point"

0 la respuesta

¿Por qué Microsoft no quiere arreglar las implementaciones erróneas de Equals y GetHashCode con NaN? [cerrado]

0 la respuesta

¿Cómo se propaga el error de coma flotante cuando se realizan operaciones matemáticas en C ++?

Digamos que hemos declarado las siguientes variables float a = 1.2291; float b = 3.99; float las variables tienen precisión 6, lo que (si lo entiendo correctamente) significa que la diferencia entre el número que la computadora ...

0 la respuesta

Emitir a int vs piso

¿Hay alguna diferencia entre estos: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0);Según tengo entendido, ambos casos tienen el mismo resultado. ¿Hay alguna diferencia en el código compilado?

0 la respuesta

C: convertir doble a flotante, preservando la precisión del punto decimal

Quería convertir doble a flotante en C, pero quería preservar el punto decimal exactamente como sea posible sin ningún cambio ... por ejemplo, digamos que tengo double d = 0.1108; double dd = 639728.170000; double ddd = ...

0 la respuesta

¿Cómo realizar eficientemente conversiones dobles / int64 con SSE / AVX?

SSE2 tiene instrucciones para convertir vectores entre flotantes de precisión simple y enteros de 32 bits. _mm_cvtps_epi32()_mm_cvtepi32_ps()Pero no hay equivalentes para enteros de doble precisión y de 64 bits. En otras palabras, ...

0 la respuesta

Agregar el flotador más pequeño posible a un flotador

Quiero agregar el valor más pequeño posible de un flotante a un flotante. Entonces, por ejemplo, intenté hacer esto para obtener 1.0 + el flotante más pequeño posible: float result = 1.0f + std::numeric_limits<float>::min();Pero después de ...

1 la respuesta

Biblioteca de coma flotante de precisión extendida C / C ++

Estoy buscando una biblioteca de punto flotante de precisión extendida con las siguientes características:tamaño de tipo de datos fijo (es decir, la flotació...

1 la respuesta

flotador max representado en IEEE 754

Me pregunto si el flotador máximo representado en IEEE 754 es:

1 la respuesta

Estándar IEEE-754 en NVIDIA GPU (sm_13)

Si realizo una operación de flotación (precisión simple) en un host y un dispositivo (GPU arch sm_13), ¿serán diferentes los valores?

1 la respuesta

¿Cómo calcular dígitos decimales de precisión en función del número de bits?

Estoy aprendiendo sobre formatos de punto flotante (IEEE). En el formato de punto flotante de precisión simple, se menciona que la mantisa tiene 24 bits y, p...