Hola, pues el tema no es muy complicado a nivel teórico, el trixbox es una distribución de linux (centos) que viene con el aterisk y varios softwares más ya instalados y preparados para configurar y usar...
Facilita mucho las cosas
Sino tienes que instalarte en un servidor linux, el asterisk y alguna interface gráfica para administrarlo, o usarlo con los .conf directamente...
Información hay mucha en la web, te recomiendo que entres en
www.asterisk.org y te bajes el libro oficial, también hay uno muy bueno que se llama
Building Telephony Systems With Asterisk (2005).pdf
Espero que te sirva
Saludos
PD: También busca por google y checkea
www.voip-info.org