filtro de contenido inapropiado en sitios web

[nodream]

Que tal buen día, me encuentro ante un problema que me imagino que es recurrente, por eso pido apoyo en esto.

Estoy creando un sitio donde el visitante puede cargar fotos y crear texto,

¿Cómo se modera el contenido que los usuarios publican en un sitio, por ejemplo cargar imagenes obscenas, o postear texto ofensivo?

Existe algún software que se pueda integrar para que analice las imagenes y ver si son ofensivas o no?

o es un proceso que se hace manual, si por ejemplo yo escribo en este momento palabras ofensivas o pongo links a imagenes pornográficas por ejemplo, es claro que infringiría las normas del foro, pero será hasta que el moderador (una persona física) las vea que se tomen las medidas correspondientes?

Por otro lado podría existir una aprobación previa a la publicación, es decir, que el administrador del sitio apruebe todos los posts, antes de que sean visibles en el portal, aunque creo que esto perjudicaría la interactividad del foro. Además de que no sería un trabajo sencillo revisar cada post de los miles que puede haber en un foro como este.

¿Qué es lo más recomendado para prevenir el contenido inapropiado en sitios donde los usuarios pueden interactuar?