Si haces "SELECT titulo", solo buscará en el campo título. Debes seleccionar los campos donde debe buscar. Para buscar por título y por autor yo lo haría así:
Código PHP:
$titulo="'%".$_POST['titulo']."%'";
$autor="'%".$_POST['autor']."%'";
SELECT `titulo`,`autor` FROM `libros` WHERE `titulo` LIKE $titulo OR `autor` LIKE $autor
Saludos