Qual é a diferença entre um processador de 32 e 64 bits?

Eu tenho tentado ler em processadores de 32 e 64 bits (http://en.wikipedia.org/wiki/32-bit_processing) Meu entendimento é que um processador de 32 bits (como x86) possui registradores de 32 bits de largura. Não tenho certeza do que isso significa. Portanto, possui "espaços de memória" especiais que podem armazenar valores inteiros até 2 ^ 32?

Não quero parecer estúpido, mas não tenho idéia sobre processadores. Estou assumindo que 64 bits é, em geral, melhor que 32 bits. Embora meu computador agora (um ano, Win 7, Intel Atom) tenha um processador de 32 bits.