Probá así:
Código PHP:
<form name="frm" action="" method="get">
<select name="mytextarea[]" size="10" multiple="multiple">
<option value="1" selected="selected">Aguascalientes</option>
<option value="2">Baja California Norte</option>
<option value="3">Baja California Sur</option>
<option value="4">Campeche</option>
<option value="5">Chiapas</option>
</select>
<input type="checkbox" name="chk" checked="checked" onclick="frm['mytextarea[]'].disabled = !this.checked" />Habilitar selección
</form>
Pero te sugeriría que también revises la manera en que está escrito tu código html.