El error que te da es que la sql no te la esta realizando correctamente, es decir, que debe haber un error en la sql.
Yo haria algo como esto. Es un poco mas artesanal pero te va a funcionar la mar de bien:
$cat = "SELECT autor, titulo FROM libros ORDER BY autor";
$cqe = mysql_query($cat);
$autor = '';
while ($cvat = mysql_fetch_array($cqe))
{
if($autor != $cvat['autor'])
{
$autor = $cvat['autor'];
echo '<span class="Estilo11"> ' .array_unique($cvat['autor']). '</span><br>';
}
echo '<img src="imgs/libros32x22.gif" /><span class="Estilo9"> ' .$cvat['titulo']. '</span><br>';
}
Lo unico que no entiendo es la imagen que pones al lado del autor. No se esa imagen a quien hace referencia. Si es una imagen del autor, solo debes ponerla junto al primer echo y ya esta.