Hola arcus,
Crear un instalador puede ser algo muy complicado dependiendo de la funcionalidad y los requerimientos de tu aplicaciones. ¿Por qué no mejor usar un generador de instaladores comercial o libre? Con la mayoría puedes crear instaladores multiplataforma y no solo para aplicaciones en java
Aquí hay unos enlaces:
Comerciales
Install4J -
http://www.ej-technologies.com/produ.../overview.html
JExpress -
http://www.denova.com/
Libres
VAInstall -
http://vainstall.sourceforge.net/
Lift-Off -
http://liftoff.sourceforge.net/
Install Guru -
http://www.installguru.org/
Si no te convece ninguno, pues puedes empezar a construir el tuyo desde el código de uno de los proyectos libres o unirte a uno de ellos.
Espero que te sirva, saludos