Hola bichomen.
¿Algo así...?
Código HTML:
<html>
<head>
<script type="text/javascript">
function validar(frm) {
if (frm.otros.checked && frm.txt.value=='') {
alert('Rellena el textarea, tío');
frm.txt.focus();
return false;
}
}
</script>
</head>
<body>
<form onsubmit="return validar(this)">
<input type="checkbox" name="otros">
<textarea name="txt"></textarea>
<input type="submit">
</form>
</body>
</html>