Lo consegui gracias a _root._ymouse =D, que sino me hubiera muerto calculandolo phew
Código as2:
Ver originalmodelButton.onMouseDown = function (){
if (this.hitTest(_root._xmouse, _root._ymouse, true)) {
if(_root._ymouse < mask.height ){
// Acciones
}
} //fin if
}//fin onMouseDown
Botones y profundidad
Conclusión: sólo afectará visualmente el cambio de profundidad de los botones porque sus acciones seguirán existiendo para la misma posición