Normalmente acudir al Manual de Referencia suele ser la mejor opción para ver cómo se optimiza el rendimiento de MySQL.
¿Lo miraste?
Chapter 8. Optimization 8.9.2. Tuning Server Parameters 8.9.4. How MySQL Uses Memory 8.9.5. Disk Issues 8.9.7. Enabling Large Page Support
Muchos de los parámetros los puedes administrar directamente por medio de algunas interfases, entre las que te recomiendo usar MySQL Workbench y las MySQL Utilities. Las puedes descargar la la pagina oficial.
Tendrás que acostumbrarte a leer inglés técnico, porque la mayor parte de la bibliografía útil y necesaria la encontrarás en ese idioma.