A ver, prueba esto:
Código PHP:
include("conectarmysql.php");
$buscar = isset($_POST['buscar']) ? $_POST['buscar'] : '';
$sql = "SELECT * FROM registrar WHERE apellido LIKE '%$buscar%' ORDER BY 'apellido'";
$result = mysql_query($sql, $db) or die(mysql_error());
echo mysql_num_rows($result);
echo "<pre>$sql</pre>";
¿Que resulta?