Resultados da pesquisa a pedido "precision"
A gravação IEEE 754-1985 é dupla como ASCII em uma sequência limitada de 16 bytes
Este é um acompanhamento para o meupostagem original [https://stackoverflow.com/questions/32629084/best-ieee-754-1985-representation-for-x3-9-1978-based-standard] . Mas vou repetir para maior clareza: Conforme o padrão DICOM, um tipo de ponto ...
O uso do epsilon da máquina é apropriado para testes de igualdade de ponto flutuante?
Este é um acompanhamento paraTeste de igualdade de valor de ponto flutuante: existe um nome padrão para a constante ...
MongoDB: Como obter precisão de N decimais em uma consulta
Dados os seguintes documentos em uma coleção do MongoDB ... { "_id": 1, "amount": { "value": 1.123456789999, "rate": 1.2 }} { "_id": 2, "amount": { "value": 2.9844, "rate": 1.2 }} { "_id": 3, "amount": { "value": 1.123876, "rate": 1.2 }} { ...
O numpy.sum é implementado de forma a evitar erros numéricos?
É sabido que somar números pode resultar em erros numéricos (por exemplo, se o primeiro número for realmente grande, enquanto houver muitos outros números pequenos). Isso pode ser resolvido somando os números de maneira não direta. Veja ...
Diferença entre toFixed () e toPrecision ()?
Eu sou novo em JavaScript e acabei de descobrirtoFixed() etoPrecision() para arredondar números. No entanto, não consigo descobrir qual é a diferença entre os dois. Qual é a diferença entrenumber.toFixed() enumber.toPrecision()?
quantos números inteiros no IEEE 754
Estou tentando descobrir quantos números inteiros diferentes existem no ieee 754. O número que obtive foi 1778384895, mas não consegui encontrar nenhum recurso para me verificar. Muito obrigado antecipadamente.
Dupla precisão em C ++ (ou pow (2, 1000))
Estou trabalhando no Project Euler para aprimorar minhas habilidades de codificação em C ++, em preparação para o (s) desafio (s) de programação que teremos no próximo semestre (já que eles não nos permitem usar Python, boo!). Estou no 16º lugar ...
Como esses valores de precisão dupla são precisos com 20 decimais?
Estou testando alguns erros de equivalência muito simples quando a precisão é um problema e esperava executar as operações com precisão dupla estendida (para que eu soubesse qual seria a resposta em ~ 19 dígitos) e, em seguida, execute as mesmas ...
Definir precisão com fstream para o arquivo de saída - formato duplo
Não consigo encontrar uma resposta sobre como usar um fstream já aberto para gerar dobras formatadas em um arquivo de texto. Atualmente, meu código está fazendo isso: int writeToFile (fstream& f, product_record& p) { if (!f){ cout << "out ...
Como quadruplicar um número não assinado usando operador lógico e bit a bit em C
Objetivo: 4x ( 4.400000095 ) = 17.60000038 Operações legais: qualquer operação inteira / não assinada, incl. ||, &&. também se, enquantoNúmero máximo de operações: 30Retorne o equivalente em nível de bit da expressão x + x + x + x ...