Investigá acerca de websockets html5, node.js, socket.io y WebRTC
Lo más sencillo es la conjunción node.s y socket.io
No uses AJAX y Polling o Long polling a menos que esperes muy pocos usuarios concurrentes.
También podés investigar acerca de servidores de sockets en java (en Apache Tomcat pueden ser una buena solución).
Otra opción son los sockets en Flash, pero requieren servidores especiales.
Edito: Bueno, me ganó Aijoona