El codigo no se lo entiendo en lo absoluto, pero si entendi sus palabras deberia ser algo parecido a esto:
Código Javascript
:
Ver originalvar boton = '<a href="#" onclick="nueva_categoria(this);return false;">AÑADIR SUBCATEGORIA</a>';
function nueva_categoria(aqui){
var contenedor = aqui.parentNode.getElementsByTagName("ul");
if(contenedor.length == 0){
aqui.parentNode.innerHTML += "<ul><li>Una hija " + boton + "</li></ul>";
} else {
contenedor[0].innerHTML += "<li>Una hija " + boton + "</li>";
}
}
Aqui lo puede ver funcionando:
http://jsfiddle.net/RgNnj/