Puedes instalarte, php, mysql y apache en tu ordenador, y luego PHPAdmin como interfaz.Pero si en realidad lo que te interesa es aprender a manejarlo y ver como funciona hay varios proveedores de hosting gratuito que te ofrecen esa posibilidad sin necesidad de que te compliques mucho la vida.
Dependerá de lo que quieras profundizar. De todas maneras con un par de búsquedas en google encontrarás mucha información y después puedes tomar la decisión que más te interese.
Un beso
