Vamos a ver...
El proceso de las "caritas" se compone de dos partes:
1) Ese javascript que ya te dejaron un link para que al pulsar sobre el icono (smile: gráfico en definitiva) ponga en tu "textarea" un [:)]
2) .. Ese dato de tu "textarea" (texto + tus própios códigos [:)] .. etc) los almacenaras en algún sitio (sea BD, archivos .. etc). A la hora de "presentar" ese dato de tu BD o similar en el "navegador" (HTML) tendrás que sustituir todo lo que en tu cadena origen se encuentre como [:)] por su tag HTML de imagen: <img src="riete.gif">.
Este último proceso lo puedes hacer con la función str_replace() de PHP.
Un saludo,