Como su nombre indica, PHPNuke está programado en PHP, para ello deverías hacerlo correr sobre APACHE con PHP y además MySQL o algun otro sistema de Base de Datos que soporte este portal. Es decir, sobre ISS no puedes.
Por otro lado existe un proyecto similar para la vertiente ASP, llamada ASPNuke para hacer funcionar sobre platafoma windows. Quizás está muy por debajo de la versión en PHP, pero está bastante bien lograda. Puedes informarte mejor en esta web
http://www.asp-nuke.com
Suerte!