Resultados de la búsqueda a petición "precision"

4 la respuesta

Cómo determinar la precisión máxima para doble

Estoy tratando de determinar cuál es la precisión máxima para un doble. En los comentarios para la respuesta aceptada en este enlaceConserva la precisión con doble en ...

3 la respuesta

Python / numpy precisión de texto en coma flotante

2 la respuesta

Obtener precisión de cout

1 la respuesta

¿Cómo se convierte a medias carrozas en JavaScript?

Quiero poder usar elOES_texture_half_float extensión en WebGL y proporcionar mis propios datos pero no hayFloat16Array en JavaScript Entonces, ¿cómo genero datos de medio flotante?

3 la respuesta

Precisión aritmética con dobles en Matlab

Tengo algunos problemas para entender cómo la precisión de estos dobles afecta el resultado de las operaciones aritméticas en Matlab. Pensé que, dado que tanto a & b son dobles, podrían realizar operaciones con esa precisión. Me doy cuenta de que ...

5 la respuesta

recisión de @Matlab: la resta simple no es cero

Calculo esta suma simple en Matlab: 2*0.04-0.5*0.4^2 = -1.387778780781446e-017 pero el resultado no es cero. ¿Que puedo hacer

1 la respuesta

Dividir dos enteros para producir un resultado flotante [duplicar]

Posible duplicado:¿Por qué no puedo devolver un doble de dos ints siendo dividido?Mi programa C ++ está truncando la salida de mi diseño entero, incluso cuan...

2 la respuesta

Valores numéricos extremos en precisión de punto flotante en R

¿Alguien puede explicarme la siguiente salida? Sé que tiene algo que ver con la precisión de coma flotante, pero el orden de magnitud (diferencia 1e308) me sorprende. 0: alta precisión > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: muy poco ...

3 la respuesta

¿Pérdida de precisión al sumar dobles?

amigos He encontrado un pequeño problema: estoy haciendo una suma simple con tres valores dobles. El resultado tiene una precisión menor que los valores util...

3 la respuesta

¿Determinismo en las actualizaciones de gradiente de tensorflow?

Así que tengo un script NN muy simple escrito en Tensorflow, y estoy teniendo dificultades para tratar de localizar de dónde viene algo de "aleatoriedad". He grabado el Pesas,Gradientes,Logitsde mi red mientras entreno, y para la primera ...