Hola.
Para que te muestre un form en el frame principal debes usar un JDesktopPane y la ventana children debe ser un JInternalFrame
Para hacer funcionar el menú puedes usar un addActionListener (todos los componentes lo tienen).
Por ejemplo algo así:
Supongo que tienes un menuItem llamado myMenuItem, un JDesktopPane llamado myDesktop y un JInternalFrame llamado FrmPrueba
private void myMenuItem.addActionListener(new ActionListener(){
public void actionPerformed(ActionEvent e) {
FrmPrueba frm= new FrmPrueba();
myDesktop.add(frm);
frm.setVisible(true);
}});
Cuèntanos como te fue