Resultados de la búsqueda a petición "floating-point"

2 la respuesta

Lua - empaquetando números de punto flotante de precisión simple IEEE754

4 la respuesta

Formateo flotante en C ++

¿Cómo se formatea un flotador en C ++ para generar dos decimales redondeados? No estoy teniendo suerte con

6 la respuesta

Cifras significativas en el módulo decimal.

Así que decidí intentar resolver mi tarea de física escribiendo algunos guiones de python para resolver los problemas por mí. Un problema que estoy encontran...

2 la respuesta

Obtener los "bits" de un flotador en Python?

Estoy buscando el equivalente de Python de Java

1 la respuesta

Elemento neutro para min () y max () en reducción OpenCL

Estoy haciendo una reducción (encontrando el mínimo y máximo) de un

2 la respuesta

Dos funciones muy similares relacionadas con sin () exhiben un rendimiento muy diferente: ¿por qué?

12 la respuesta

Formato de flotadores con módulo json estándar.

Estoy usando el estándarmódulo json en Python 2.6 para serializar una lista de flotadores. Sin embargo, estoy obteniendo resultados como este:

1 la respuesta

Cambie el tipo de objeto Mat de CV_32F a CV_8U

Intenté mostrar una imagen de tipo CV_32F usando la función imshow pero mostró unaImagen BLANCA. En elDocumentación dado que las imágenes de punto flotante s...

30 la respuesta

¿Cómo lidiar con la precisión del número de punto flotante en JavaScript?

5 la respuesta

¿Puedo confiar en la solución php.ini de precisión de PHP para problemas de punto flotante?