Una cosa es que instale por "default" PHP (el interprete) .. otra cosa es que se le diga a Apache q tiene el interprete PHP instalado (ubicación y otros parámetros)..
Revisa la configuración de PHP en tu httpd.conf de Apache . mira si hace referencias a PHP:
http://www.php.net/manual/en/install.unix.php
Un saludo,