Hola:
Los parámetros por url son limitados, y deben ser url's válidas, por lo que es preferible "escaparlos"... está el método escape, y hay otro mejor que no recuerdo bien si es urlencode (o parecido).
La longitud está limitada según el navegador, y explorer creo que es el más restringido... otra cosilla que debes considerar es que showmodaldialog no es estandar y no funaciona nada más que en explorer, así que mi recomendación es que uses un formulario con el método post para muchos datos... en maestrosdelweb.com puedes ver un artículo para enviar formularios a ventanas.
Saludos