Pues se supone que void(0) es para evitar eso de [object]. Si el popup.htm está en el mismo lugar del servidor que el swf, puedes poner:
on(release){
getURL("javascript
:window.open('popup.htm','Popup' ,'s tatus=no,scrollbars=no,menubar=no,width=195,height =300');void(0);");
}
No es necesario
http://..., pero eso no produce el problema. Yo pruebo tu código y no me sale lo de [object], me funciona correcto