Podrias hacerlo asi:
creas una nueva tabla llamada categorias y alli pones id (auto increment) y nombre.
Código PHP:
// Consultamos una nueva tabla que tiene nuestras categorias y le extraemos las id
$categorias = mysql_query("SELECT * FROM categorias where nombre='$_REQUEST[categoria]'");
while ($ccms = mysql_fetch_array($categorias)) {
$id = $ccms[id];
}
$sql = "select * from libros where idfamilia = '$id' order by familia asc";
Cuando tu pongas index.php?categoria=ciencia pues lo cambiara a numero y podras ver los libros de dicha categoria pero antes tienes que rellenar la tabla categorias