Lo que sucede es que no estas usando php para obtener esos datos...
Me explico: Estas usando PHP para hacer una consulta SQL... si te fijas la funcion YEAR y la funcion MONTH se usan desde SQL.
De todas maneras MONTH se usa con numeros... en otras palabras la consulta
SELECT MONTH('2010-08-01')
te va a dar como resultado 8.
Como referencia puedes usar esto:
http://dev.mysql.com/doc/refman/5.0/...functions.html
Y arreglo tu codigo por ahora
Código PHP:
$sel_nov="SELECT sum(totalfactura) total
FROM facturas
WHERE YEAR(facturas.fecha) = 2010
AND MONTH(facturas.fecha) = 11";
$rs_nov = mysql_query($sel_nov);
$row_nov = mysql_fetch_array($rs_nov);
echo $row_nov['total'];
Suerte!