En el GtkFileSelection no puedes indicarle un tipo de extension, te recomiendo que te crees tu un widget con un GtkCList y con las funciones de lectura de directorios generases tu la lista, es bastante sencillo, en cuanto al GtkHBox y GtkVBox sirvern para dividir la ventana a tu gusto, su uso por ejemplo si quieres meter un boton y una entrada de texto seria algo asi: (a ve como sale que es al vuelo)
Código PHP:
<?PHP
dl('php_gtk.so');
function cerrar()
{
gtk::main_quit();
}
$ventana = &new GtkWindow();
$ventana->set_usize(100,100);
$ventana->set_title('Prueba de GtkHBox'):
$ventana->connect('destroy', 'cerrar');
$hbox = &new GtkHBox(0, FALSE);
$boton = &new GtkButton('boton');
$entrada = &new GtkEntry();
$hbox->pack_start($boton, FALSE, FALSE);
$hbox->pack_end($entrada, FALSE, FALSE);
$ventana->add($hbox);
$ventana->show_all();
gtk::main();
?>
Espero que te sirva de ayuda, dentro de unos dias se abrira zonaphp.com y ahi podras encontrar mucha informacion sobre PHP-GTK

que es de la seccion de articulos que me encargo yo