podrias cambiar el alto del textarea con css cuando se pulsa enter.
Cita: <html>
<head>
<style>
.texto1 {
width: 220px;
height: 80px;
}
.texto2 {
width: 220px;
height: 130px;
}
</style>
<script>
function validar(e){
tecla = (document.all) ? e.keyCode : e.which;
if (tecla==13) {
document.formulario.texto.className="texto2";
}
}
</script>
</head>
<body>
<form name="formulario">
<textarea name="texto" class="texto1" onkeydown="validar(event)">
Textarea en forma inicial
</textarea>
</form>
</body>
</html>