Построение автоматической системы модерации сообщений / Habr
Автоматические системы модерации внедряются в веб-сервисы и приложения, где необходимо обрабатывать большое количество сообщений пользователей. Такие системы позволяют сократить издержки на ручную модерацию, ускорить её и обрабатывать все сообщения пользователей в real-time. В статье поговорим про построение автоматической системы модерации для обработки английского языка с использованием алгоритмов машинного обучения. Обсудим весь пайплайн работы от исследовательских задач и выбора ML алгоритмов до выкатки в продакшен. Посмотрим, где искать готовые датасеты и как собрать данные для задачи самостоятельно.
Подготовлено совместно с Ирой Степанюк (id_step), Data Scientist в Poteha Labs
Описание задачи
Мы работаем с многопользовательскими активными чатами, где каждую минуту в один чат могут приходить короткие сообщения от десятков пользователей. Задача состоит в выделении токсичных сообщений и сообщений с любыми нецензурными высказываниями в диалогах из таких чатов. С точки зрения машинного обучения — это задача бинарной классификации, где каждое сообщение нужно отнести к одному из классов.
Видно, что токсичные сообщения часто содержат нецензурные слова, но всё же это не обязательное условие. Сообщение может не содержать недопустимых слов, но быть оскорбительным для кого-либо (пример (1)). Кроме того, иногда токсичные и нормальные сообщения содержат одни и те же слова, которые употребляются в разном контексте — оскорбительном или нет (пример (2)). Такие сообщения тоже нужно уметь различать.
Изучив разные сообщения, для нашей системы модерации мы назвали токсичными такие сообщения, которые содержат высказывания с нецензурными, оскорбительными выражениями или проявлением ненависти к кому-либо.
Данные
Открытые данные
Одним из самых известных датасетов по задаче модерации является датасет с соревнования на Kaggle Toxic Comment Classification Challenge. Часть разметки в датасете некорректна: например, сообщения с нецензурными словами могут быть отмечены как нормальные. Из-за этого нельзя просто взять Kernel соревнования и получить хорошо работающий алгоритм классификации. Нужно больше работать с данными, смотреть, каких примеров недостаточно, и добавлять дополнительные данные с такими примерами.
Помимо соревнований есть несколько научных публикаций с ссылками на подходящие датасеты (пример), однако не все можно использовать в коммерческих проектах. В основном в таких датасетах собраны сообщения из социальной сети Twitter, где можно встретить много токсичных твитов. Кроме того, данные собирают из Twitter, так как можно использовать определенные хэштеги для поиска и разметки токсичных сообщений пользователей.
Данные, собранные вручную
После того, как мы собрали датасет из открытых источников и обучили на нем базовую модель, стало понятно, что открытых данных недостаточно: не устраивает качество модели. Помимо открытых данных для решения задачи нам была доступна неразмеченная выборка сообщений из игрового мессенджера с большим количеством токсичных сообщений.
Чтобы использовать эти данные для своей задачи, их нужно было как-то разметить. На тот момент уже был обученный бейзлайн классификатор, который мы решили использовать для полуавтоматической разметки. Прогнав все сообщения через модель, мы получили вероятности токсичности каждого сообщения и отсортировали по убыванию. В начале этого списка были собраны сообщения с нецензурными и оскорбительными словами. В конце наоборот находятся нормальные сообщения пользователей. Таким образом, большую часть данных (с очень большими и очень маленькими значениями вероятности) можно было не размечать, а сразу отнести к определенному классу. Осталось разметить сообщения, которые попали в середину списка, что было сделано вручную.
Аугментация данных
Часто в датасетах можно увидеть измененные сообщения, на которых классификатор ошибается, а человек правильно понимает их смысл.
Все потому, что пользователи подстраиваются и учатся обманывать системы модерации, чтобы алгоритмы ошибались на токсичных сообщениях, а человеку смысл оставался понятен. Что пользователи делают уже сейчас:
- генерируют опечатки: you are stupid asswhole, fack you,
- заменяют буквенные символы на цифры, похожие по описанию: n1gga, b0ll0cks,
- вставляют дополнительные пробелы: i d i o t,
- удаляют пробелы между словами: dieyoustupid.
Для того, чтобы обучить классификатор устойчивый к таким подменам, нужно поступить так, как поступают пользователи: сгенерировать такие же изменения в сообщениях и добавить их в обучающую выборку к основным данным.
В целом, эта борьба неизбежна: пользователи всегда будут пытаться находить уязвимости и хаки, а модераторы реализовывать новые алгоритмы.
Описание подзадач
Перед нами стояли подзадачи по анализу сообщения в двух разных режимах:
- онлайн режим — real-time анализ сообщений, с максимальной скоростью ответа;
- офлайн режим — анализ логов сообщений и выделение токсичных диалогов.
В онлайн режиме мы обрабатываем каждое сообщение пользователей и прогоняем его через модель. Если сообщения токсичное, то скрываем его в интерфейсе чата, а если нормальное, то выводим. В таком режиме все сообщения должны обрабатываться очень быстро: модель должна выдавать ответ настолько быстро, чтобы не нарушать структуру диалога между пользователями.
В офлайн режиме ограничений по времени работы нет, и поэтому хотелось реализовать модель с максимальным качеством.
Онлайн режим. Поиск слов по словарю
Вне зависимости от того, какая модель будет выбрана дальше, мы должны находить и фильтровать сообщения с нецензурными словами. Для решения этой подзадачи проще всего составить словарь недопустимых слов и выражений, которые точно нельзя пропускать, и делать поиск таких слов в каждом сообщении. Поиск должен происходить быстро, поэтому наивный алгоритм поиска подстрок за такое то время не подходит. Подходящим алгоритмом для поиска набора слов в строке является алгоритм Ахо-Корасик. За счет такого подхода удается быстро определять некоторые токсичные примеры и блокировать сообщения еще до их передачи в основной алгоритм. Использование ML алгоритма позволит «понимать смысл» сообщений и улучшить качество классификации.
Онлайн режим. Базовая модель машинного обучения
Для базовой модели решили использовать стандартный подход для классификации текстов: TF-IDF + классический алгоритм классификации. Опять же из соображений скорости и производительности.
TF-IDF — это статистическая мера, которая позволяет определить наиболее важные слова для текста в корпусе с помощью двух параметров: частот слов в каждом документе и количества документов, содержащих определенное слово (более подробно здесь). Рассчитав для каждого слова в сообщении TF-IDF, получаем векторное представление этого сообщения.
from sklearn.feature_extraction.text import TfidfVectorizer
from scipy import sparse
vect_word = TfidfVectorizer(max_features=10000, lowercase=True,
analyzer='word', min_df=8, stop_words=stop_words, ngram_range=(1,3))
vect_char = TfidfVectorizer(max_features=30000, lowercase=True,
analyzer='char', min_df=8, ngram_range=(3,6))
x_vec_word = vect_word.fit_transform(x_train)
x_vec_char = vect_char.fit_transform(x_train)
x_vec = sparse.hstack([x_vec_word, x_vec_char])В нашей задаче решили использовать логистическую регрессию, так как эта модель дает прирост по скорости работы в сравнении с другими классическими ML классификаторами и предсказывает вероятности классов, что позволяет гибко подбирать порог классификации в продакшне.
Полученный с использованием TF-IDF и логистической регрессии алгоритм быстро работает и хорошо определяет сообщения с нецензурными словами и выражениями, но не всегда понимает смысл. Например, часто сообщения со словами ‘black’ и ‘feminizm’ попадали в токсичный класс. Хотелось исправить эту проблему и научиться лучше понимать смысл сообщений с помощью следующей версии классификатора.
Офлайн режим
Для того, чтобы лучше понимать смысл сообщений, можно использовать нейросетевые алгоритмы:
- Эмбеддинги (Word2Vec, FastText)
- Новые предобученные модели (ELMo, ULMFiT, BERT)
Обсудим некоторые из таких алгоритмов и как их можно использовать подробнее.
Word2Vec и FastText
Модели эмбеддингов позволяют получать векторные представления слов из текстов. Существует два типа Word2Vec: Skip-gram и CBOW (Continuous Bag of Words). В Skip-gram по слову предсказывается контекст, а в CBOW наоборот: по контексту предсказывается слово.
Такие модели обучаются на больших корпусах текстов и позволяют получить векторные представления слов из скрытого слоя обученной нейросети. Минус такой архитектуры в том, что модель обучается на ограниченном наборе слов, которые содержатся в корпусе. Это означает, что для всех слов, которых не было в корпусе текстов на этапе обучения, не будет эмбеддингов. А такая ситуация происходит часто, когда предобученные модели используются для своих задач: для части слов не будет эмбеддингов, соответственно большое количество полезной информации будет теряться. Для решения проблемы со словами, которых нет в словаре, (OOV, out-of-vocabulary) есть улучшенная модель эмбеддингов — FastText. Вместо использования отдельных слов для обучения нейросети, FastText разбивает слова на n-грамы (подслова) и обучается на них. Для получения векторного представления слова нужно получить векторные представления n-грам этого слова и сложить их.
Таким образом, для получения векторов признаков из сообщений можно использовать предобученные модели Word2Vec и FastText. Полученные признаки можно классифицировать с помощью классических ML классификаторов или полносвязной нейросети.
Пример вывода “ближайших” по смыслу слов с использованием предобученного FastText
Классификатор на CNN
Для обработки и классификации текстов из нейросетевых алгоритмов чаще используют рекуррентные сети (LSTM, GRU), так как они хорошо работают с последовательностями. Сверточные сети (CNN) чаще всего используют для обработки изображений, однако их также можно использовать в задаче классификации текстов. Рассмотрим, как это можно сделать.
Зачем же применять сверточные сети для обработки текстов, когда можно использовать рекуррентные? Дело в том, что свертки работают сильно быстрее. Используя их для задачи классификации сообщений, можно сильно сэкономить время на обучении.
ELMo
ELMo (Embeddings from Language Models) — модель эмбеддингов на основе языковой модели, которая была недавно представлена. Новая модель эмбеддингов отличается от Word2Vec и FastText моделей. Вектора слов ELMo обладают определенными преимуществами:
- Представление каждого слова зависит от всего контекста, в котором оно используется.
- Представление основано на символах, что позволяет формировать надежные представления для OOV (out-of-vocabulary) слов.
ELMo можно использовать для разных задач в NLP. Например, для нашей задачи полученные с помощью ELMo вектора сообщений можно отправлять в классический ML классификатор или использовать сверточную или полносвязную сеть.
Предобученные эмбеддинги ELMo достаточно просто использовать для своей задачи, пример использования можно найти здесь.
Особенности реализации
API на Flask
Прототип API был написан на Flask, так как он прост в использовании.
Два Docker образа
Для деплоя использовали два докер образа: базовый, где устанавливались все зависимости, и основной для запуска приложения. Это сильно экономит время сборки, так как первый образ редко пересобирается и за счет этого экономится время при деплое. Довольно много времени тратится на сборку и скачивание библиотек машинного обучения, что не нужно при каждом коммите.
Тестирование
Особенность реализации довольно большого числа алгоритмов машинного обучения состоит в том, что даже при высоких значениях метрик на валидационном датасете реальное качество алгоритма в продакшне может быть низкое. Поэтому для тестирования работы алгоритма всей командой использовали бота в Slack. Это очень удобно, потому что любой член команды может проверить, какой ответ выдают алгоритмы на определенное сообщение. Такой способ тестирования позволяет сразу увидеть, как будут работать алгоритмы на живых данных.
Хорошей альтернативой является запуск решения на публичных площадках вроде Яндекс Толоки и AWS Mechanical Turk.
Заключение
Мы рассмотрели несколько подходов к решению задачи автоматической модерации сообщений и описали особенности нашей реализации.
Основные наблюдения, полученные в ходе работы:
- Поиск слов по словарю и алгоритм машинного обучения, основанный на TF-IDF и логистической регрессии, позволили классифицировать сообщения быстро, но не всегда корректно.
- Нейросетевые алгоритмы и предобученные модели эмбеддингов лучше справляются с такой задачей и могут определять токсичность по смыслу сообщения.
Конечно, мы выложили открытое демо Poteha Toxic Comment Detection в фейсбук боте. Помогите нам сделать бота лучше!
Буду рад ответить на вопросы в комментариях.
Пользовательская модерация
Как это работает?
Как вы можете исправлять нарушения, удалять ненужные сообщения, отмечать авторские сообщения
В правом верхнем углу каждого сообщения Вы видите флажок, с помощью которого можно подать сигнал.
Сейчас есть три группы сигналов:
— оценить и исправить
— удалить
— отметить нарушение
В каждой группе есть свой набор сигналов, под каждым размещено его описание, что должно помочь вам определиться и выбрать нужный.
1. Оценить и исправить.
2. Удалить.
3. Отметить нарушение.
Вы выбираете подходящий вариант и отправляете ваше мнение. При желании или необходимости — прокомментируйте свой сигнал, это поможет присяжным.
Далее, наша умная система случайным образом выберет несколько присяжных заседателей, которые коллегиально примут решение.
Выбор присяжных
Присяжные выбираются автоматически — роботом.
Присяжным не может быть автор сообщения и тот, кто подал сигнал.
В список голосующих мы включаем также и новичков, и пользователей с низким модераторским рейтингом, однако не учитываем их голоса при принятии решения. То есть, голос неопытного голосующего не может повлиять на итоговое решение, но участие в голосовании позволяет ему повышать свой рейтинг. При условии правильного голосования, само собой.
Наш алгоритм “склоняется” к выбору тех голосующих, которые активны на сайте, т.е. заходят чаще, пишут, ходят по страницам. Он, к сожалению, не очень разбирается в профильных дискуссиях человек участвует или нет, но по крайней мере разбирается был ли человек “оштрафован» за флуд\спам\т.д.
Из всего этого можно сделать такой вывод, что человек, который пишет сообщения по теме и не штрафуется — будет более вероятно участвовать в ПМ, нежели человек, который заходит изредка, не общается и\или его сообщения были недавно удалены ПМ.
Правила вынесения решения
- Голосование завершается, если есть перевес в несколько голосов в любую сторону. Требуемый перевес варьируется в зависимости от категории сигнала, например в случае «уборка» достаточно перевеса в 3 голоса, а для «спам» или «троллинг» требуется 4.
- Сигнал от владельца темы на сообщение в этой теме, либо сигнал от администратора «сдвигает» требуемый перевес, т.е. требуется меньший перевес для положительного решения и больший для отрицательного.
- Вес голоса выше у администраторов форума и владельцев тем.
- Администраторы могут “наложить вето” (как и коммерческий пользователь в своей теме) — “нет” будет означать окончательное решение “нет”.
- Новички и пользователи с низким рейтингом могут голосовать, но их голос не учитывается.
Модератор — это… Что такое Модератор?
Модера́тор (от лат. moderor — умеряю, сдерживаю) — пользователь, имеющий более широкие права по сравнению с обыкновенными пользователями на общественных сетевых ресурсах (чатах, форумах, эхоконференциях), в частности хотя бы одно из прав:
- право удалять чужие сообщения;
- право редактировать чужие сообщения;
- право удалять страницы пользователей;
- ограничивать пользователей в правах редактирования и просмотра сайта (банить).
Точный перечень полномочий и обязанностей модератора на каждом сайте свой. Чаще всего модератор отвечает за соблюдение пользователями правил сайта.
Типы модерации
Модерация может осуществляться несколькими способами:
- Премодерация — осуществление контроля контента перед публикацией. Публикуемое сообщение от пользователей ресурса попадает сначала к модератору, проверяется, возможно исправляется пунктуация и орфография, оформляется надлежащим образом и дополняется, и только потом публикуется либо отклоняется. Такой тип модерации распространён на официальных ресурсах различных компаний, в тематических сетевых сообществах и пр.
- Преимущества:
- содержание и качество ресурса находится под контролем;
- отсутствие вандализма и «мусорной» информации — «загрязнение» ресурса возможно только благодаря наличию технических проблем, позволяющих злоумышленнику публиковать сообщения в обход модератора.
- низкая оперативность — сообщения появляются во всеобщем доступе только после проверки;
- субъективность — модератор может отказаться от публикации сообщения, исходя из собственного субъективного суждения о публикуемой информации либо участнике.
- Постмодерация — контроль контента осуществляется после публикации сообщений.
- Преимущества:
- оперативность — все сообщения появляются сразу же после публикации.
- возможность флуда, спама и вандализма;
- необходимость постоянного присутствия модератора.
- Автомодерация — разновидность постмодерации, при которой контроль качества контента определяется самими участниками средствами голосования «за» или «против» того или иного сообщения, а также созданием автоматических правил и фильтров.
- Преимущества:
- оперативность — все сообщения появляются сразу же после публикации;
- отсутствует субъективность модератора (одного человека или группы людей).
- необходимость в дополнительном программном обеспечении, позволяющем осуществлять фильтрацию и голосование;
- возможность обхода автоматических правил;
- возможность флешмобов — «минусование» или «плюсование» отдельных участников и сообщений.
Недостатки в работе системы модерации
- Бан учетной записи пользователя, в том числе по IP-адресам.
- Вывод в профиле пользователя информации о его нарушениях и поведении.
- Система учета нарушений пользователей, с последующим баном.
- Субъективность модерации.
Фактически, цель системы модерации — поддержание порядка на сайте и контроль за контентом (в том числе чистка ресурса от разного рода спама), а не за поведением пользователей. Но очень часто модераторы могут пренебрегать этим. Поэтому вышеуказанные функции системы модерации очень часто используются неэффективно, кроме того, вышеуказанные функции легко обойти. К примеру, в случае фиксации нарушения или наложения бана пользователь легко может зарегистрировать новую учетную запись. Поэтому ряд ресурсов используют «мягкие» правила контроля за контентом, которые зачастую более эффективны. В этом случае нарушения со стороны пользователей не фиксируются, производится только правка контента. А в случае периодических нарушений со стороны конкретного пользователя, для него вводится временная премодерация, после чего пользователь опять может свободно размещать свой контент.
Модератор форума
Модератор форума назначается администратором форума. На форуме обычно имеется больше одного модератора.
Модератор назначается на весь форум или на некоторые его разделы. В своих разделах модератор обычно имеет право:
- удалять сообщения или темы;
- редактировать любые сообщения;
- видеть IP-адреса;
- разделять тему на две или объединять две темы в одну;
- объявлять тему закрытой. Оставлять сообщения в закрытых темах могут только модераторы и администраторы;
- помечать тему как «объявление», «важную» или «прилепленную», при этом она всегда будет в начале списка тем;
- переносить тему в другие разделы.
На некоторых форумах модераторы имеют лишь часть этих прав. Но право удалять сообщения и/или темы является обязательным; тот, кто не имеет такого права, по определению не является модератором форума. На некоторых форумах видеть IP-адреса может любой пользователь.
Модератор форума (если он не является одновременно администратором) обычно не имеет права назначать других модераторов или передавать свои полномочия.
За неправомерные действия на модератора можно пожаловаться администратору, но, как правило, администраторы игнорируют жалобы или поддерживают модератора по принципу «модератор всегда прав». На администратора форума жаловаться уже некому (но можно покинуть форум и устроить ему антирекламу).
Типы модераторов
Существует два основных типа модераторов:
- Модератор
- Супер-модератор (варианты: главный модератор, глобальный модератор, куратор модерирования)
Супер-модератор — пользователь, выбираемый администратором из числа модераторов. Супер-модератор «отвечает» не за определённый раздел форума, а за весь форум. К супер-модераторам применяются гораздо более жёсткие требования, чем к обычным модераторам. Супер-модератор обязан непрерывно следить за порядком на форуме, а также применять немедленные действия к пользователям, нарушившим правила форума. Обычно на форуме несколько супер-модераторов. На некоторых сайтах супер-модератор обладает отдельными функциями администратора (например блокировка IP-адресов, перевод пользователя в группу премодерации, удаление пользователей).
Модератор эхоконференции
В фидонетовских эхоконференциях модератором становится первоначальный создатель эхоконференции; впоследствии каждый последующий модератор, как правило, публично получает полномочия от предыдущего модератора (так называемая «передача шапки»). В тех же эхоконференциях, где модератор отсутствует (немодерируемые эхоконференции), модератор может быть позднее выбран из числа подписчиков, либо (реже) назначен координатором некоторого эхобона, имеющего отношение к распространению эхи.
Модератор имеет право:
- объявлять предупреждения пользователям;
- временно или постоянно переводить пользователей в режим read only (то есть в режим только чтение, когда отправка сообщений запрещена) или вообще закрывать им доступ к эхоконференции;
- передавать свои полномочия другому модератору;
- назначать или смещать комодераторов. Комодераторы имеют те же права, что и модератор, кроме права назначения и смещения комодераторов и права передачи своих полномочий другому лицу.
На действия модератора эхоконференции пожаловаться некому («модератор всегда прав»).
Наказания в Фидонете
Во многих эхоконференциях используется формальная система учёта наказаний:
- [*] — предупреждение. Даётся за большое количество орфографических ошибок, слишком длинную подпись и прочие мелкие проступки. Три звёздочки превращаются в [+].
- [+] — строгое предупреждение. Даётся за личную переписку, разговоры не в тему и другие серьёзные нарушения регламента. Три плюса превращаются в [!].
- [!] («выключательный знак») — временный (часто 3 или 6 месяцев) или постоянный запрет на отправку сообщений. Даётся за мат и другие грубейшие нарушения правил.
Однако, все эти меры часто неэффективны, и очень часто, способствуют не наведению порядка на сайте, а проявлению излишней субъективности к пользователям. В Фидонете есть шутка, что «модератор вооружён плюсомётом».
В системе Usenet некоторые группы новостей являются модерируемыми. В эти группы новостей могут посылать сообщения только модераторы. Когда рядовой пользователь посылает сообщение, оно попадает к модератору, а он решает, пересылать его в группу новостей или нет.
Модератора назначает тот, кто создаёт группу новостей, одновременно с её созданием.
Некоторые группы новостей являются ретромодерируемыми. В этих группах новостей есть ретромодераторы, которые имеют право удалять ранее посланные туда сообщения (В данном случае речь идёт о праве, а не технической возможности. Технически, в Usenet любой пользователь может удалять любые сообщения, но, за исключением спама и ещё нескольких специальных случаев, удаление чужих сообщений запрещено).
Модератор чата
Модератор чата имеет право исключать пользователей из чата на время или попытаться исключить кого-нибудь навсегда. В некоторых чатах любое сообщение должно быть принято модератором, и лишь потом оно появляется в чате. Однако такое встречается редко.
Сетевые ресурсы, где нет модератора
На некоторых ресурсах нет человека, следящего за порядком, например:
- Нет модератора в системах, где люди общаются один на один, например в программах мгновенного обмена сообщениями, поскольку там пользователь может просто прекратить общение с неприятным ему собеседником.
- Отсутствуют модераторы в блогах (например, в Живом Журнале), поскольку в своём блоге каждый является полновластным хозяином, не нуждающимся в других модераторах. Однако в ЖЖ есть конфликтная комиссия (abuse team), которая разбирает такие случаи, как оскорбление одного пользователя в журнале другого. В ЖЖ-сообществах человек, следящий за порядком, называется не модератором, а смотрителем.
- В Википедии также отсутствуют модераторы. Ряд их функций (добавление и удаление новой информации) могут выполнять любые участники (а некоторые функции — даже анонимные участники), другие функции модераторов (поддержание порядка, удаление статей, блокировка участников) возложены на администраторов.
Ссылки по теме
Кто такие модераторы и какова их роль? — Справка
Мы верим, что сообщество само ответственно за модерацию содержимого сайта, поэтому, помимо того, что любой участник получает дополнительные привилегии по мере получения репутации, на каждом сайте (кроме новых сайтов находящихся в «бете», где сотрудники Компании назначают временных модераторов) существует демократическая процедура выборов в модераторы. Выборы проводятся регулярно, чтобы определить, тех участников, которые, по мнению сообщества, смогут поддерживать порядок на сайте. Модераторы выбираются на неопределённый срок, но при желании они могут сняться с этой должности (или, в крайне редких случаях, их просят покинуть пост).
Мы ожидаем от модераторов следующих качеств:
- терпение и честность;
- умение увлечь своим примером;
- уважение к товарищам по сообществу в словах и делах;
- умение выполнять ненавязчивую, но решительную модерацию сайта;
- быть лидером сообщества и решать редкие (как хочется надеяться) споры и исключения.
Кроме того, все модераторы должны соблюдать соглашение о модерации.
Модераторы – это участники, решающие острые вопросы сообщества, отсрочивание решение которых может привести к нарушению жизни сообщества.
Основной задачей модератора является отслеживание сообщений, отмеченных сигналом тревоги. Под каждым сообщением имеется небольшая ссылка с флажком тревоги, которую может использовать любой участник с репутацией 15 баллов и более. Сообщения могут быть отмечены тревогой за спам, агрессию или в случаях, когда требует внимание модератора, с комментарием или ссылкой, объясняющих суть проблемы. Как только кто-либо из участников установит сигнал тревоги, у всех модераторов в шапке сайта увеличится на единицу счетчик сигналов тревог.
Если вы видите, что в системе появилось что-либо выходящее за рамки правил сообщества или по какой-то причине требующее внимание модератора, не стесняйтесь отмечать такое сообщение сигналом тревоги! Основная задача модераторов отреагировать на такое сообщение и принять необходимые меры.
Модераторы имеют дополнительные инструменты, позволяющие устранять эти редкие чрезвычайные ситуации.
- Голоса модераторов – решающие. При любом голосовании — за закрытие, открытие, удаление, восстановление, агрессию, перенос и пр. — голос модератора сразу превышает предел, необходимый для принятия решения, и решение вступает в силу сразу после того, как только модератор отдает свой голос.
- Модераторы могут блокировать сообщения. За заблокированные сообщения нельзя голосовать и их нельзя изменять никаким способом.
- Модераторы могут устанавливать защиту на вопросы. Защищенные вопросы допускают ответы только от пользователей с репутацией более 10 баллов.
- Модераторам доступно больше системной информации, включая статистику по голосованию (но не имена голосовавших за сообщение) и учётные записи пользователей.
- Модераторы могут временно приостанавливать доступ к учетным записям участников и удалять их при необходимости.
- Модераторы могут выполнять различные работы по обслуживанию сайта, такие как объединение вопросов и меток, утверждение синонимов меток и пр.
Модераторы выполняют множество рутинной работы: удаление очевидного спама, закрытие явно нетематических вопросов и удаление части сообщений с наихудшим рейтингом. Идеальный модератор делает очень немногое, но все, что он делает, приносит значительную