PHP - Loop incorreto do alfabeto

Pode Alguém me explicar por que:

    <?php
    for ($i = 'a'; $i <= 'z'; $i++){
    echo "$i ";
    }
    ?>

Por que sua saída é:

abcdefghijklmnopqrstu vwxyz aa ab ac ad a ag ah ai aj ak al am a ao ap aq ar como em au av aw ax a az ba bb bc bd ser bf bg bh bi bj bk bl bm bn bo bp bq b b b b b bu bv bw bx de bz ca cb cc cd ce cf cg ch ci cj ck cl cm cn co cp cq cr cs ct cu cv cw cx cy cz da db dc dd dd dg dh di dj dk dl dm dn dp dq dr ds dt du dv dw dx dy dz e eb ec ed ee ef eg eh ei ej ek el em en e ep eq er es et eu ev ew ex ... on to yz

Mas seu trabalho bem com

    <?php
    for ($i = 'a'; $i != 'aa'; $i++){
    echo "$i ";
    }
    ?>

O loop parece rodar repetidamente até atingir "zz".

Se eu der$i<"aa" deve funcionar bem, mas em vez disso gera apenas "a"

questionAnswers(2)

yourAnswerToTheQuestion