Para muchas cosas, como por ejemplo para hostear paginas, hacer renders, hostear partidas de juegos online, bases de datos, cálculos balísticos, etc... "Servidor" es una palabra muy amplia, no te puedo enumerar todas las funciones que se pueden hacer con uno.
Pero por lo general todas esas "computadoras con gabinete cuadrado" no son un solo equipo, sino varios, esas cosas se llaman "racks", o sea, es un simple espacio donde dentro de ellas hay varios servidores (que son PCs igual que el de toda la gente, pero con piezas, por así decirlo "más fiables"). Que funcionan todo el día sin cesar.
Cualquier PC puede hacer las funciones de servidor, ahora, para poder meterlo dentro de esos racks, obviamente que son
servidores especiales que no tienen un gabinete comun (parecen cajones) va todo acostado para que puedan entrar en un rack.
Salu1+1