seria algo asi:
En tu consulta de tareas buscas alguno que no este finalizado, si existe uno entonces no actualizas nada en la tabla proyectos
Código PHP:
$consulta=mysql_num_rows(mysql_query("select * from tareas where id_proyecto='$idproy' and estado!='finalizado'"));
if ($consulta==0){
update proyectos set estado=finalizado where id='$idproy'
}
Espero que te siva