Hola:
Depende de lo que tengas puede haber o no una forma directa. Lo suyo es crear el
JTable usando un DefaultTableModel (u otro modelo que te hagas tú). El DefaultTableModel tiene métodos para borrar filas enteras y columnas.
Otra opción (a mí me gusta menos), es pasarle un nuevo modelo vacío
Código:
DefaultTableModel modelo = new DefaultTableModel();
tabla.setModel(modelo);
Para añadir nuevamente datos, usarías el modelo. Digo que me gusta menos porque para hacer esto, podrías empezar desde el principio con el DefaultTableModel.
Se bueno.