hay varios paquetes, puedes utilizar el
lampp que es como el xampp para windows o si lo prefieres puedes hacer algo como esto
Código consola:
Ver original#con esta línea instalamos el servidor apache en nuestro equipo
apt-get install apache2
#con esta línea instalamos el el PHP a nuestro equipo
apt-get install php5
#Ahora instalamos el modulo de apache para PHP5
apt-get install libapache2-mod-php5
#instalamos el modulo de PHP para trabajar con MySQL
apt-get install php5-mysql
#Ahora instalamos el soporte para la librería GD de PHP
apt-get install php5-gd
#Instalamos la librería DOM de PHP
apt-get install php5-dom
#instalamos el cliente php
apt-get install php-cli
#procedemos a instalar el servidor mysql
apt-get install mysql-server
#aunque el MySQL trae un cliente para el terminal, instalaremos el PHPMYADMIN un cliente que se trabaja por el navegador
apt-get install phpmyadmin
tienes las dos opciones solo debes elegir como lo deseas hacer, saludos