Hola:
Echale un ojo a esto
http://chuidiang.org/content/pool-de-conexiones
Como resumen, para una aplicación normal de escritorio en que solo hay un usuario y la conexión se abre como consecuencia de una acción de usuario, se puede hacer perfectamente como estás haciendo, ya que siempre será más lento el usuario que la conexión y al usuario le dará igual que el botón responda en unos pocos milisegundos o en varios milisegundos.
El problema es si hay muchos usuarios, muchos hilos, etc. Si todos los usuarios/hilos andan abriendo y cerrando conexiones, puedes tener problemas y conviene usar otras técnicas como la que se menciona en el enlace que te he pasado.
Se bueno.