Ok ya pude instalar mi PHP-Nuke, les dire que mis sospechas de que la culpa la tenia el PHP 5 eran ciertas, resulta que cambie mi PHP al la version 4 y que tal funciono mi PHP-Nuke..!!!
Ahora les paso un tip hay un instalador unicamente compatible para el AppServ de PHP-Nuke 7.2 en ingles, es un instalador tipico de windows, tambien exte uno para phpBB 2 y Manbo 4.
www.appservnetwork.com ( bajen la version 2.4.2 es la que si sirve de verdad )