Resultados da pesquisa a pedido "floating-point"
Como representar o número FLOAT na memória em C
Enquanto lia um tutorial, me deparei com como representar o número Float na memória. O tutorial teve um exemplo com um número de ponto flutuante. float a=5.2 with below Diagram Alguém pode dizer como esse 5.2 é convertido em binário e como é ...
Inputting flutua em um programa que lida apenas com ints
Eu tenho um programa, mas quando eu introduzo números flutuantes sempre que o programa solicita entradas, o programa pula abruptamente um passo e passa para a saída final. O programa está abaixo: #include <stdio.h> #include <stdlib.h> int ...
Aplicação dos modelos aos resultados da divisão de números inteiros e de ponto flutuante: o que está acontecendo aqui?
Sou iniciante e há algo que não faz muito sentido para mim. Por favor, pode ser gentil a ponto de explicar onde estou errado. Desculpe se isso já foi solicitado antes. Aqui a presença do ponto decimal significa que eles são avaliados usando ...
quais idiomas expõem as armadilhas IEEE 754 ao desenvolvedor?
Gostaria de brincar com essas armadilhas para fins educacionai Um problema comum com o comportamento padrão no cálculo numérico é que "sentimos falta" do Nan (ou + -inf) que apareceu em uma operação errada. O comportamento padrão é a ...
aneira mais rápida de fazer a soma de vetores de flutuação horizontal em x86
Você tem um vetor de três (ou quatro) carros alegóricos. Qual é a maneira mais rápida de somar? O SSE (movaps, shuffle, add, movd) é sempre mais rápido que x87? As instruções de adição horizontal no SSE4.2 valem a pena? Qual é o custo de mudar ...
IEEE 754: Como exatamente funciona?
Por que o código a seguir se comporta como em C? float x = 2147483647; //2^31 printf("%f\n", x); //Outputs 2147483648Aqui está o meu processo de pensamento: 2147483647 = 0 1001 1101 1111 1111 1111 1111 1111 111 (0.11111111111111111111111)base2 ...
Comparação de ponto flutuante [duplicado]
Esta pergunta já tem uma resposta aqui: Exemplos de imprecisão de pontos flutuantes [/questions/2100490/floating-point-inaccuracy-examples] 7 respostasint main() { float a = 0.7; float b = 0.5; if (a < 0.7) { if (b < 0.5) printf("2 are ...
Como formatar corretamente números flutuantes para String sem zero desnecessário decima
Um duplo de 64 bits pode representar um número inteiro +/- 2 53 exatament Dado esse fato, escolhi usar um tipo duplo como um tipo único para todos os meus tipos, já que meu maior número inteiro é sem sinal de 32 bit Mas agora eu tenho que ...
Perl converte para int errado, mas apenas com um número específico
o código perl a seguir converte um número flutuante no número inteiro errado use strict; my $zahl =297607.22000; $zahl=$zahl * 100; print "$zahl\n"; my $text=sprintf ("%017d",$zahl); print $text; A saída disso é: 29760722 00000000029760721 O ...
montador x86: ponto flutuante compara
Como parte de um projeto de compilador, eu tenho que escrever o código do assembler GNU para x86 para comparar valores de ponto flutuante. Tentei encontrar recursos sobre como fazer isso online e, pelo que entendi, funciona assim: Assumindo ...