Claro jahman, finalmente para eso es el SQL ¿no?
Deberías tener todo en una sola tabla y hacer búsquedas por un campo específico utilizando la cláusula "LIKE". (WHERE campo LIKE '$letra%').
Y que los resultados para cada letra salgan paginados. (Para eso deberás propagar la variable que contiene esa letra.. si no, la paginación no funcionará).
Saludos
