Hola, Suponiendo que la tabla inscripciones tiene los cmapos idAlumno e idMateria podes hacer el siguiente query, que no es tan ineficiente como el de las tablas temporales (que en este caso son inecesarias.
Código:
SELECT TOP 1 COUNT(idAlumno),idMateria
FROM Inscripciones
GROUP BY idMateria
ORDER BY COUNT(idAlumno) ASC
espero que te sirva. Saludos