Добавить обучающийся алгоритм, который бы обучался на действиях людей модераторов. Когда будет набрана достаточно большая база хороших и плохих ответов, автомодератор может выбирать наиболее подозрительные сообщения и предлагать их модератору. И наоборот заведомо безобидные сообщения сразу помечать промодерированными
