Resultados da pesquisa a pedido "integer"
SIMD assinado com multiplicação não assinada para 64 bits * 64 bits a 128 bits
Eu criei uma função que executa de 64 bits * de 64 bits a 128 bits usando o SIMD. Atualmente eu o implementei usando o SSE2 (SSE4.1). Isso significa que ele faz dois produtos de 64b * 64b a 128b ao mesmo tempo. A mesma idéia pode ser estendida ao ...
Cálculo de Fibonacci em Java Longs mostra resultados negativos
Minha calculadora de Fibonacci funciona bem, mas ao subir para números mais altos o resultado é negativo, como seria se fosse umInteger acima de seu valor máximo. Está trabalhando com um cachejava.util.Map<Integer, Long>. Tudo o que entra noMap ...
Erro do compilador: conversão inválida de int * para unsigned int * [-fpermissive]
Estou tendo o problema mais estranho hoje. Eu estava trabalhando com um exemplo online e, para minha surpresa, não funcionou(eles praticamente nunca fazem). Fui corrigi-lo eu mesmo, mas parece que estou preso neste erro: Error: Invalid ...
Melhor maneira de lidar com excesso de número inteiro em c #?
Lidar com o excesso de números inteiros é uma tarefa comum, mas qual é a melhor maneira de lidar com isso em c #? Existe algum açúcar sintático para torná-lo mais simples do que com outros idiomas? Ou essa é realmente a melhor maneira? int x = ...
Como converter um único número em uma única lista de itens em python
Minha solução: >>> i = 2 >>> list1 = [] >>> list1.append(i) >>> list1 [2]Existe uma solução mais elegante?
Como posso usar cout << myclass
myclass é uma classe C ++ escrita por mim e quando escrevo: myclass x; cout << x;Como saio10 ou20.2, como uminteger ou umfloat valor?
Swift Como obter um inteiro da string e convertê-lo em inteiro
Preciso extrair números da string e colocá-los em uma nova matriz no Swift. var str = "I have to buy 3 apples, 7 bananas, 10eggs"Tentei fazer um loop em cada caractere e não faço ideia comparar entre caracteres e int.
Números extremamente grandes em javascript
Estou trabalhando nos problemas do Project Euler (atualmentepergunta 13 [http://projecteuler.net/problem=13]) Para esta pergunta, tenho que encontrar os 10 primeiros dígitos da soma dos 100 números, todos com um tamanho semelhante a ...
Como lidar com números inteiros arbitrariamente grandes
Estou trabalhando em uma linguagem de programação e hoje cheguei ao ponto de poder compilar a função fatorial (recursiva), no entanto, devido ao tamanho máximo de um número inteiro, o maior que posso obter é fatorial (12). Quais são algumas ...
Tipos de números inteiros de largura fixa (por exemplo, uint32) em Python
Certas operações matemáticas, especialmente em dados lidos de drivers de hardware, podem depender da largura fixa do tipo de dados. Exemplo: deslocamento bit a bit. Qual é a maneira Pythonic de criar variáveis inteiras com largura fixa (por ...