para agregar el "borrar" antes del li puedes agregar al html y borrar al ingresar para que no para que no aparezca en el primer item pero antes obtener el html del li para luego poder agregar
Código HTML:
Ver original <script src="https://ajax.googleapis.com/ajax/libs/jquery/1.5.0/jquery.min.js"></script>
$(function(){
fila = $("#materias_inscribir").html();
$("#materias_inscribir .borrarMateria").remove();
$("#agregarMateria").click(function(){
$("#materias_inscribir").append( fila );
});
$(".borrarMateria").live('click', function(){
$(this).closest('li').remove();
});
$('form').submit( function(){
alert($(this).serialize());
return false;
});
});
<fieldset id="materias_inscribir_fieldset"> <ul id="materias_inscribir"> <option value="1"/> 541140-Taller de Lengua I
<option value="2"/> 540701-Historia de la Educacion
<select name="razon_solicitud[]"> <option value="1"/> Dis= Dispersi
ón
<option value="2"/> Ch= Choque de hora
<option value="3"/> Pr= Prelaci
ón
<option value="4"/> Ex= Exeso de hora
<a href="#" class="borrarMateria">Borrar materia
</a> <a href="#" id="agregarMateria">Agregar materia
</a>
<input type="submit" value="Registrar"/>