En ese caso conforme vas recorriendo tu ciclo, puedes usar chr, y asi ir leyendo caracter por caracter (solo empieza desde la A).
Código PHP:
$start = "A";
while($registros) {
echo $start . "<br />";
$start++;
}
Claro deberias de implementar una función que cheque si llegaste a Z, entonces agregar el número, etc.
Saludos.