Hola
Prueba a poner option sin value, de esta manera te serviran de titulo y divisor dentro del grupo de opciones
Código HTML:
<select name="selmaterias" >
<option value="">1º Grado</option>
<option value="materia1">materia 1</option>
<option value="materia2">materia2</option>
<option value="materia3">materia3</option>
<option value="materia4">materia4</option>
<option value="">2º Grado</option>
<option value="materia5">materia 5</option>
<option value="materia6">materia6</option>
<option value="materia7">materia7</option>
<option value="materia8">materia8</option>
<option value="">3º Grado</option>
<option value="materia9">materia 9</option>
<option value="materia10">materia10</option>
</select> Tambien puedes mediante estilos poner 1 grado etc en otro color, o subrayado para diferenciarlos más.
Saludos