Resultados de la búsqueda a petición "floating-point"
¿Cuándo ocurre el desbordamiento?
Me meto en una situación donde calcular1.77e-308/10 desencadena una excepción de flujo insuficiente, pero el cálculo1.777e-308/10 no. Esto es extraño porque: El subflujo ocurre cuando el verdadero resultado de una operación de punto flotante es ...
En MATLAB, ¿las variables REALMENTE tienen doble precisión por defecto?
Esta pregunta surgió de algo extraño que noté después de investigaresta pregunta [https://stackoverflow.com/q/4222257/52738]promover, adicional... Siempre entendí que las variables de MATLAB sonPrecisión ...
Python: Convertir cadena en número decimal
Tengo una lista de Python con cadenas en este formato: A1 = [' "29.0" ',' "65.2" ',' "75.2" ']¿Cómo convierto esas cadenas en números decimales para realizar operaciones aritméticas en los elementos de la lista?
Orden de operaciones para maximizar la precisión
Estoy usando flotadores para estas operaciones: ¿Cuál de estos dos es más preciso? (a B Co (a / c) * b¿Importa en absoluto o depende de la situación? Si es así, ¿cuál debo elegir en qué casos?
Problema con flotadores! (en PHP)
¿Qué hay de malo con los flotadores php? $v = 5.2 * 3; if($v==15.6) { echo 'Everything is fine =)'; } else { echo 'Okay something is wrong :S'; var_dump($v); // float 15.6 }Mira esto también: $v = 5.2 * 3; if($v>15.6 AND $v<15.60000000001) { ...
Conversión de SQL FLOAT a SQL INT, datos perdidos
Tengo algunos problemas para convertir algunos datos almacenados en un tipo de datos FLOAT en datos almacenados en un tipo de datos INT. El siguiente ejemplo ilustra mi problema: DECLARE @data TABLE ( id INT, weight FLOAT ) INSERT INTO ...
Implementación de sinpi () y cospi () usando la biblioteca matemática C estándar
La funciónsinpi(x) calcula sin (πx) y la funcióncospi(x) calcula cos (πx), donde la multiplicación con π está implícita dentro de las funciones. Estas funciones se introdujeron inicialmente en la biblioteca matemática estándar C como ...
Forma concisa de implementar round () en C?
La C incrustada que estoy usando no tiene una función round (), es lib matemática, ¿cuál sería una forma concisa de implementar esto en C? Estaba pensando en imprimirlo en una cadena, buscar el lugar decimal, luego encontrar el primer carácter ...
Problemas de redondeo de enteros PHP
echo (int) ( (0.1+0.7) * 10 ); ¿Por qué la salida anterior 7? Entiendo cómo PHP redondea hacia 0, pero no es(0.1+0.7) * 10 evaluado como un flotador y luego fundido como un entero? ¡Gracias!
Imprecisiones de punto flotante
Mientras escribía una función que realizaría alguna operación con cada número en un rango, encontré algunos problemas con imprecisiones de coma flotante. El problema se puede ver en el siguiente código: #include <iostream> using namespace std; ...