El lenguaje C no es algo que se instale, en todo caso lo que se debería instalar es el compilador
.
El compilador de C por excelencia en Linux/Unix es gcc, actualmente van por la versión 4.1 (corrijanme si me equivoco).
SI nos dices que distribución de Linux tienes, te podremos decir como instalarlo.
Saludos