Puedes probar con esto:
Código HTML:
<td style="min-width: 0px; max-width: 100px;">contenido</td>
Pero no te va a funcionar en algún navegador "minoritario" como el Internet Explorer, y es que no respeta los estándares.
Te recomendaría que usases medidas relativas, o sea, porcentajes, para no desbordar la pantalla.