Resultados de la búsqueda a petición "floating-point"

3 la respuesta

Enviando número de punto flotante del servidor al cliente

estoy usandoTCP / IP programación de socket. tengo unvalor de punto flotante almacenado en una variableret_val en el código de mi servidor que deseo enviar a...

2 la respuesta

1e-9 o -1e9, ¿cuál es el correcto? [cerrado]

Me asignaron un código antiguo y cuando lo leí, noté que tenía estos en forma de:

4 la respuesta

¿Qué valores no pueden ser representados correctamente por un doble?

El tipo de datos Doble no puede representar correctamente algunos valores de base 10. Esto se debe a cómo los números de punto flotante representan números r...

4 la respuesta

¿Cuál es el número de punto flotante positivo más pequeño que no es cero en Perl?

Tengo un programa en Perl que funciona con probabilidades que en ocasiones pueden ser muy pequeñas. Debido al error de redondeo, a veces una de las probabili...

3 la respuesta

¿Por qué las funciones aritméticas de GLSL producen resultados tan diferentes en el iPad que en el simulador?

Actualmente estoy persiguiendo algunos errores en mi código de sombreado de fragmentos OpenGL ES 2.0 que se ejecuta en dispositivos iOS. El código funciona b...

6 la respuesta

Java busca número flotante en String

digamos que tengo una cuerda como esa:eXamPLestringer> 1.67 >> ReSTOfStringMi tarea es extraer solo 1.67 de la cadena de arriba.Supongo que las expr...

3 la respuesta

conversión de doble a unsigned int

Estoy enfrentando un problema con la conversión de valor de Double a int. Intento ejecutar el siguiente código:

4 la respuesta

Comportamiento de punto flotante PHP extraño

4 la respuesta

Visualización de la salida de una variable a más de 2 decimales

Estoy tratando de mostrar la salida de mi adición a más de 2 decimales.

7 la respuesta

Casting float to int (bitwise) en C

Dados los 32 bits que representan un número de punto flotante IEEE 754, ¿cómo se puede convertir el número a un entero, usando operaciones de bits o enteros ...