Código PHP:
Te falta usar mysql_query para ejecutar tu consulta..
<?php
if (isset($_POST['modificar'])) {
//conectar a mysql
$cnx = conectar();
$sql = "UPDATE usuario SET";
$sql .= "nombre ='".$_POST['nombre']."',";
$sql .= "apellido ='".$_POST['apellido']."',";
$sql = "WHERE rut=".$_POST['rut'];
//Te falta usar el query
$query = mysql_query($sql) or die (mysql_error());
$res = mysql_fetch_array($query) or die (mysql_error());
echo "Registro actualizado.<br><a href='listado.php'>Regresar</a>";
mysql_close();
exit;
}