Bueno, en si para mi los 2 no funcionan para aplicaciones de escritorio.
Swing de por si me parece muy pesado, además de como dices no se integra totalmente al sistema, ya que su integración al sistema operativo se debe a la emulación de Widgets, más no que los trae incorporado como la aplicación o interfaz Qt.
Swing, posee muchos temas, pero para una aplicación de escritorio, es muy lento. Además de que crear código y con sus layouts, es súmamente confuso, y no se actualiza desde el 2007.
Montar un fondo, es un dolor de cabeza. Entre otras cosas. Aunque es el que está continuado y más apoyado y seguido que AWT.
No he probado AWT, pero por lo que he investigado también (ando igual que tu), es que AWT es antiguo y feo. Además de que hasta la propia IBM sacó su propio toolkit de interfaz, denominado "SWT", que es mucho más renovado pero no es tan apoyado y tan extenso que digamos.
AWT si se integra bien al sistema, aunque el SWING es la renovación de AWT, y su código de creación es semejante, sólo que el Swing es la librería integrada o por defecto de Java.
Swing no se integra perfectamente, ya que es multiplataforma y son casi 3 a 4 sistemas operativos donde integrarse. No es 1. Además de sólo tener máquina virtual, se ejecuta y emula los widgets del sistema.
A mi me encanta la interfaz de Qt, pero el problema es que hay que aprender C++ y para mi, que ya estoy culminando la carrera y estoy acostumbrado a Java, me parece algo más amigable y pués, orientado a objetos, me parece perfecto. Aunque C++ es un gran lenguaje, pero con Java me ahorro muchas cosas. Además de su gran IDE de calidad NetBeans así como Eclipse y que es multiplataforma.
GTK me parece muy confuso, limitado y pobre. WindowsForms debe ser amigable, pero no me gusta VB ni VB.NET.
Para mi, una lenguaje de programación como el de Java, o su sintaxis con interfaz HTML y CSS, sería el lenguaje perfecto (para mi).
Por eso me gustaría aprender PHP, aunque no está tan demandado como Java a nivel mundial.
Pero HTML y CSS, crear interfaces o páginas Webs es una delicia. Fácil, liviano y completos.
Swing es muy confuso y pesado. No se, es el punto gordo de Java al crear aplicaciones para el escritorio.
¿Qué tal el AWT? ¿Han probado también Qt Jambi? (Java con Qt).
Según mi experiencia, investigación, ésta es mi opinión.
Saludos!