Hola
el nuke et se instala de la siguiente manera:
http://www.tusitioweb.com/instalar.php
donde en el root se encuentran todos tus archivos del nuke, por lo que veo en el error que me muestras, ese error biene de parte del servidor donde estas corriendo la aplicacion, por lo general ese error ese el
500 internal server error
como lo dice es un error del servidor, no como estes corriendo la aplicacion en phpnuke, al igual manera te recomiendo que leas las referencias del zip donde viene el nuke.
de otra forma te recomiendo que te cambies de hosting, como el que esta mi web.
http://www.myazor.info
y mi sitio es este
http://www.squalo.myazor.info
te lo recomiendo.
saludos