Yo lo haría con "oncomplete" en vez de "onclick" y el renderizado que me llevase a la modal que quiero.
Más o menos así:
<a4j:commandButton id="idLinkModificarUser"
action="#{administrationUserBean.alterUser}"
oncomplete="#{rich:component('idPanelAlterUser')}. show();"
reRender="idPanelAlterUser" image="/_commons/images/buttons/modificar_off.gif">
<f:param value="#{administrationUser.id}" name="inputUserId"/>
</a4j:commandButton>
<rich:modalPanel id="idPanelAlterUser" width="620" height="200"">