Модерация

Модерация — что это такое? В мире маркетинга модерирование служит жизненно важной частью повышения репутации бренда, безопасности и лояльности клиентов, взаимодействия с ними. Определение слова «модерация» включает в себя мониторинг и управление контентом, создаваемого другими пользователями, посредством реализации набора заранее подготовленных правил и рекомендаций.

Что такое процесс модерации

Владельцы бизнеса, которые плохо знакомы с миром модерации пользовательского контента, часто ищут значение терминов «модерация сайта» или «кто такой модератор», чтобы получить информацию об областях, которые охватывают эти понятия.

Когда дело доходит до модерирования контента, контроль и возможности управления действиями аудитории примерно одинаковы для всех типов социальных платформ и цифровых сообществ. Это означает, что их основная цель — одна и та же.

От текстового контента, рекламы, изображений, профилей и видео до форумов, онлайн-сообществ, страниц в социальных сетях и сайтов, цель всех типов модерации контента — поддерживать доверие к бренду и обеспечивать безопасность для всех обитателей интернет-пространства. 

Масштабируемый процесс управления различными онлайн-сообществами очень важен. Особенно это полезно для брендов, которые проводят большое количество рекламных кампаний и стремятся расширить свою онлайн-аудиторию фолловеров и приверженцев. Репутацию компании легко подорвать серией ложных отзывов и заявлений. Кто-то может даже сказать, что хорош любой PR, кроме некролога, но все же лучше предотвратить любые возможные убытки, чем сдерживать скандалы, вызванные одним постом в Фейсбуке или гневным обзором, например, в Яндекс.Маркете.

Клиенты обладают гораздо большей властью и влиянием, чем многие привыкли считать. Это объясняет, почему социальные платформы, сайты тематических обзоров и рекомендаций, которые базируются на сообщениях конечных пользователей, считаются надежными и заслуживающими доверия источниками, когда кто-то хочет узнать больше о конкретной компании или услуге.

Как работает модерация контента

Любой процесс модерации контента может быть выполнен либо путем найма людей для проверки сообщений пользователей вручную, либо с помощью искусственного интеллекта. Это зависит от следующих факторов:

  • тип модерируемого контента или размера онлайн-сообщества;
  • слова, фразы или визуальные изображения, которые владелец бизнеса или бренд разрешает или запрещает;
  • количество пользовательских постов, с которыми бренд сталкивается ежедневно.

Для любого типа модерации должно быть руководство, в котором перечисляются объем и ограничения на регулирование контента, предоставляемого пользователями. Например, бренд или клиент прямо запрещают использование слов или терминов, связанных с терроризмом, наряду с фразами, подразумевающими сексуальную активность. Тот, кто отвечает за отслеживание сообщений подписчиков и участников онлайн-сообщества — moderator, будет использовать это руководство как основу для определения применимых методов модерации.

Если дать краткое определение понятия, что делает модератор, то это выглядит так — каждое сообщение тщательно проверяется, затем решается, какой контент разрешить, какой должен быть заблокирован или требует дальнейшего изучения. Пользовательский контент, который является откровенно оскорбительным и нарушает принципы сообщества, удаляется модератором.

Помимо модерации, осуществляемой человеком, искусственный интеллект или ИИ также можно использовать для управления и регулирования контента на онлайн-платформах и бизнес-сайтах. С момента своего появления ИИ произвел настоящую революцию в модерации контента для сообществ, которые работают с большими объемами пользовательского контента.

Модерация на основе искусственного интеллекта использует машинное обучение для точной проверки текстов. Машинное обучение для модерации контента управляет процессами назначения и ввода групп информации — таких, как ключевые слова, фразы, образцы изображений или видео, а также правила публикации. Набор информации и ссылок для модерации также называется базовой моделью.

Модерация на основе искусственного интеллекта требует обширных базовых моделей. Потому что, в отличие от модераторов-людей, машинный разум имеет ограниченные возможности с точки зрения оценки и определения намерений пользователя. Он будет работать только в условиях, которые изначально запрограммированы человеком для мониторинга и оценки, и не способен принимать самостоятельных решений.

Типы модерации контента

Различные бизнес-требования, отраслевые стандарты и пожелания клиентов влекут за собой разные формы модерирования контента. Выбор методов модерации контента также может зависеть от онлайн-сообщества, которому требуется, например, модератор группы. Следует провести тщательную проверку, чтобы убедиться — тот ли тип модерации, что соответствует требованиям бизнеса, выбран, и тот ли вид присутствия в Интернете определен и поддерживается на данный момент.

Премодерация

Премодерация — это сокращенное слово от фразы «предварительная модерация». Означает оно предварительную работу модератора для проверки контента, отправленного пользователем, прежде чем это сообщение станет общедоступным. От комментариев и обзоров продуктов или услуг до мультимедийного контента — все это проверяется, чтобы обеспечить надежную защиту онлайн-сообщества от любых потенциальных проблем, которые могут поставить под угрозу клиентов и бизнес. Каждый текст, поступивший от пользователя, получает статус «ожидает модерации» или «на модерации», и виден только модератору для проверки.

Премодерация идеально подходит для компаний, которые хотят сохранить свою репутацию и продвигать бренд в Интернете. Есть и минусы — при премодерации невозможны беседы и обсуждения в реальном времени. Поскольку утверждение сообщений, созданных пользователями, исключает возможность немедленной их публикации.

Постмодерация

Что означает слово «постмодерация»? В буквальной трактовке это — отложенное модерирование. В отличие от премодерации, постмодерация способствует текущим обсуждениям от членов онлайн-сообщества. Поскольку контент проверяется позже, он предварительно не модерируется и публикуется сразу. Такой вариант модерирования лучше всего подходит для сайтов, где есть каналы в социальных сетях, форумы и другие формы активных онлайн-сообществ.

Как правило, модераторы используют специальный инструмент — панель управления, которая позволяет дублировать каждое сообщение и более внимательно изучать его содержание. После проверки можно быстро решить, сохранить или удалить сообщение. Здесь важно соблюдать баланс — если сообщество быстро увеличится, например, вдвое, объем проверяемого контента может легко превысить возможности модератора. Поэтому для растущих онлайн-групп лучше заранее планировать постмодерацию силами нескольких человек или же пользоваться услугами искусственного интеллекта.

Распределенная модерация

При распределенной модерации используется система рейтинга, которая позволяет членам сообщества отдавать свои голоса за определенные материалы. На основе оценок всех участников и среднего балла в процессе голосования определяется, соответствует ли контент, представленный другими пользователями, правилам сообщества или нет. Обычно голосование проходит под контролем модераторов сайта.

Большие компании редко доверяют модерацию контента своим пользователям из-за рисков, которые это несет с юридической точки зрения. Распределенная модерация способствует более активному участию и вовлеченности, но не гарантирует полной безопасности или более быстрой публикации в режиме реального времени. Поэтому такой тип больше подходит для малых предприятий. Использование распределенной модерации, обеспечиваемой участниками онлайн-сообщества, эффективно увеличивает уже существующие ресурсы за счет снижения трудозатрат и дополнительных издержек.

Эмоциональная модерация

Этот тип модерации также зависит от мнения конечных пользователей, но функционирует не на основе голосования. Эмоциональная модерация предполагает, что пользователи активно удаляют и отмечают только «неправильные» сообщения — все формы неприемлемого контента, размещенного на сайте. Бренду требуется лояльная и целеустремленная аудитория, чтобы использовать все преимущества эмоциональной модерации. С помощью преданной аудитории можно эффективно избавляться от сообщений, которые наносят ущерб другим пользователям или бизнесу в целом. Пример тому — часть системы модерации в Фейсбуке, где каждый пользователь может пожаловаться на неприемлемый контент.

Автоматическая модерация

Автоматическая модерация работает с использованием специальных приложений для модерации контента. Они применяются для фильтрации определенных оскорбительных слов, спама или мультимедийного контента. Так обнаружение неприемлемых сообщений становится более простым. С помощью автоматической модерации можно также блокировать IP-адреса пользователей, которые размещают неподобающий контент.

Но отсутствие человеческого суждения и опыта часто ограничивает цифровые сервисы, модерирующие пользовательский контент. Например, полностью исключаются рассуждения и более глубокий уровень интерпретации сообщений. Если пользователь рассуждает о недопустимости мата и использует какое-то «стоп-слово», его сообщение будет автоматически забанено, хотя само по себе оно не несет оскорбительного подтекста. Также пользователи могут пользоваться выражениями, которые не попадают в фильтр ненормативной лексики, но по сути таковыми являются — и такие сообщения приложения пропускают как приемлемые и безопасные. Поэтому рекомендуется все-таки включать дополнительную ручную модерацию в дополнение к автоматической. Так вы сможете быть полностью уверены в качестве контента.

Кто такой модератор и что он должен уметь

Это человек, который отвечает за все процессы тщательной проверки и модерирует все виды пользовательских сообщений, цифровые платформы и сайты для безопасности всего онлайн-сообщества. Задача — сложная и деликатная. Поэтому следует поручать её опытным и знающим специалистам.

Модерация — это не всегда только контент. Это также люди, которые отвечают за качество аудитории в Интернете. Модераторы придерживаются принципов и целей, определенных конкретной компанией или брендом. Они несут ответственность за обеспечение полной защиты бизнеса и конечных пользователей от вредоносных, оскорбительных сообщений или мошеннических предложений. Иными словами, это сотрудники, стоящие за процессами по проверке контента, созданного пользователями. Они дают зеленый или красный свет сообщениям других людей, а также имеют право удалять или блокировать участников, которые нарушают внутренние правила или угрожают другим пользователям.

Хороший модератор контента должен обладать аналитическими навыками и внушительным опытом участия в онлайн-сообществах. Будь то страницы в социальных сетях, группы в Facebook, блоги или форумы — понимание того, как люди ведут себя, устанавливают связи и обмениваются информацией в Интернете, позволяет принимать более правильные решения.

В дополнение к этому, важны и  адекватные знания особенностей работы с теми платформами, которые используются в компании, грамотный русский язык и широкий словарный запас. Благодаря этому эффективные модераторы не только проверяют сообщения участников, но и могут способствовать полноценному и значимому взаимодействию между конечными пользователями. 

Блог