Модерация
Это понятие впервые встречается на программе «Инженерия и системный подход к решению задач» — примерно 11-12 лет (5-6 класс).
Когда за порядком в чате или игре следят: удаляют оскорбления и спам, предупреждают и банят нарушителей. Этим занимается модератор.
Судья на матче: сам не играет за команды, а следит, чтобы играли по правилам, и удаляет нарушителя.
Назвать три вещи, которые модератор уберёт из чата (оскорбление, спам, троллинг), и одну, которую не тронет (вежливый спор по делу).
Проверка сообщений и поведения на соответствие правилам сообщества и реакция на нарушения. Ведут её люди-модераторы, фильтры (по стоп-словам) или вместе. Инструменты: предупреждение, удаление, мут, бан; сигнал модератору — жалоба (репорт). Правила объявлены заранее, поэтому модерация — не «баним кого хотим», а применение известных правил.
Составить для чата своей проектной команды пять правил и указать к каждому меру модерации (предупреждение, мут, бан); разобрать один спорный случай.
Управление пользовательским контентом по правилам площадки. Форматы: премодерация (проверка до публикации) и постмодерация (после, по жалобам). На масштабе подключают автомодерацию — фильтры и обученные модели для спама и токсичности, спорное эскалируют людям. Меры градуированы: скрытие, мут, теневой бан, блокировка. Трудности: ложные срабатывания, контекст (ирония ≠ оскорбление), баланс между безопасностью и свободой высказываться. Отсюда апелляции и прозрачные правила сообщества.
Разобрать спорное решение модерации (удалённый пост): восстановить, какое правило применено, могло ли это быть ложным срабатыванием фильтра, и предложить процедуру апелляции.
Частое заблуждение
«Модерация — это цензура, банят кого хотят». Нет: модерация следит за соблюдением заранее объявленных правил сообщества и защищает участников от спама, троллинга и травли.