Hace un tiempo hice un menu similar, la diferencia es que operaba en distintos frames...pero da igual...
Para modificar la posicion del layer debes utilizar los estilos:
<div id="eldiv" style="visibility:hidden;
position:absolute;top:10;left:50;">
...
</div>
para ubicar el layer bajo la posicion de la celda de la tabla que usas como menu:
<table>
<tr>
<td onclick="
showdiv(this);"> menu 1</td>
<td onclick="showdiv(this);"> menu 2</td>
<td onclick="showdiv(this);"> menu 3</td>
</tr></table>
<script language="JavaScript">
function showdiv(eltd){
document.all.eldiv.style.left = eltd.offsetLeft;
document.all.eldiv.style.visibility = "visible";
}
</script>
si mal no recuerdo, eso debería funcionar.
Saludos.