filtro de contenido inapropiado en sitios web

[nodream]

Que tal buen día, me encuentro ante un problema que me imagino que es recurrente, por eso pido apoyo en esto.

Estoy creando un sitio donde el visitante puede cargar fotos y crear texto,

¿Cómo se modera el contenido que los usuarios publican en un sitio, por ejemplo cargar imagenes obscenas, o postear texto ofensivo?

Existe algún software que se pueda integrar para que analice las imagenes y ver si son ofensivas o no?

o es un proceso que se hace manual, si por ejemplo yo escribo en este momento palabras ofensivas o pongo links a imagenes pornográficas por ejemplo, es claro que infringiría las normas del foro, pero será hasta que el moderador (una persona física) las vea que se tomen las medidas correspondientes?

Por otro lado podría existir una aprobación previa a la publicación, es decir, que el administrador del sitio apruebe todos los posts, antes de que sean visibles en el portal, aunque creo que esto perjudicaría la interactividad del foro. Además de que no sería un trabajo sencillo revisar cada post de los miles que puede haber en un foro como este.

¿Qué es lo más recomendado para prevenir el contenido inapropiado en sitios donde los usuarios pueden interactuar?

[Sergiorelativo]

Hombre, se ocurre lo siguiente:

- Comprobación total (no es factible, pero habrán algunos que lo hagan).
- Pequeños scripts que detecten palabras obscenas o inapropiadas. En el tema de imágenes se que existen sistemas que pueden detectar escenas pornográficas y de ese estilo, pero no sabría decirte el nombre de ninguna.
- Coloca botones para que los usuarios puedan denunciar contenido de este tipo, de este modo puedes ir directamente a los que infrinjan las normas.
- O también puedes requerir unas credenciales de usuario, es decir, que haya subido X cantidad de contenido correctamente (y que tu compruebes) para darle digamos el beneficio de compartir sin necesidad de comprobación por tu parte.

Esto es lo que se me ocurre, espero que te sirva algo. ¡Saludos!