En realidad no es la tabla la cual se altera (aunque a veces lo que se cambia son divs). Son efectos logrados ya sea con javascript, css e imagenes, o cualquiera de estos por separado. Aquí tienes algunos métodos:
con css imagenes:
http://kalsey.com/2003/07/rounded_corners_in_css/ http://www.roundedcornr.com/
con css y javascript
:
http://www.html.it/articoli/nifty/index.html
javascript
:
http://www.curvycorners.net/
En esa última página te puedes bajar un plugin para dreameaver que funciona bastante bien la mayoría de las veces.