no he visto bien el codigo para crear el menu pero basicamente le agregas el atributo target cuando se van creando los enlaces. por ejemplo,
Código:
document.getElementById("sub" + this.items[i][0]).innerHTML+= "<li><a href=\"" + this.subitems[i][k][1] + "\" alt=\"" + this.subitems[i][k][0] + "\" target=\"mainFrame\">" + this.subitems[i][k][2] + "</a></li>";
localiza la parte en bold.