Модерация что: что это такое простыми словами и как пройти модерацию — OKOCRM

Модерация. Алиса. Диалоги

Проверка навыка занимает до трех дней. Ее результат будет отображен в консоли разработчика. Навыки, которые находятся на модерации, нельзя редактировать, но вы можете в любой момент вернуть навык в статус черновика: откройте страницу навыка и нажмите кнопку Вернуть в разработку.

Если у вас возникли вопросы к модерации, напишите нам. Выберите тему «Процесс модерации диалога Алисы».

1. Что проверяют
2. Модерация брендированных навыков
3. Проверка после модерации
4. Полезные ссылки
5. Часто задаваемые вопросы

1. Описание навыка соответствует всем формальным требованиям.

2. Поддержаны команды «Помощь» и «Что ты умеешь». В ответ на эти команды навык исчерпывающе объясняет, как им можно пользоваться:

   • Для игровых навыков помощь содержит правила игры.

   • Навыки с жестко ограниченным набором команд перечисляют в помощи все доступные команды и их назначение.

   • Навыки, которые предусматривают сложные сценарии использования, описывают в помощи свои основные возможности и объясняют логику взаимодействия с навыком.

3. Функциональность навыка соответствует его описанию и инструкциям помощи.

4. Если навык публикуется в каталоге и в блоке Ограничения на доступные платформы не выбрана опция Нужно устройство с экраном, ответы навыка полноценны и понятны на устройствах без экрана с чатом (на Станции, в Навигаторе и т. п.).

5. Для навыков с авторизацией — как работает сценарий авторизации. Перед тем как отправить навык на модерацию, заполните поле Заметки для модератора. Подробно опишите, по какому сценарию будет выполняться авторизация в навыке. Укажите авторизационные данные (логин и пароль) для проверки сценария. Пример, как заполнить поле Заметки для модератора:

   Для запроса авторизации нужно сказать «Запросить баланс». 
   Логин: [email protected].
   Пароль: password.
   После успешной авторизации навык должен сообщить баланс.
   Навык может общаться с пользователем и без авторизации — рассказывать про тарифы
   или сообщать адрес отделений.

Если вы создаете навык для организации или торговой марки, вы можете использовать названия брендов, их логотипы и прочие атрибуты. При модерации такого навыка проверят, соответствует ли он дополнительным требованиям:

• В названии навыка, в активационных именах, в описании и на иконке используется один и тот же бренд.

• Если при поиске по имени бренда его официальный сайт попадает в первые три позиции, он указан в поле Сайт для верификации прав использования бренда.

• Права на сайт, указанный как Сайт для верификации прав использования бренда, подтверждены в Яндекс Вебмастере.

После публикации навыка Яндекс Диалоги периодически проверяют, что навык работает и корректно отвечает на запросы. Если навык не отвечает несколько часов, его отключат.

Для проверки платформа присылает запрос со словом ping в свойстве original_utterance:

{
  "request": {
    "command": "",
    "original_utterance": "ping",
    "type": "SimpleUtterance"
  }
}

Свойство text в ответе вашего навыка может содержать любую строку (например,

ok, 1 или pong) — по формальному ответу платформа поймет, что навык исправен.

Советуем вынести обработку запроса ping в отдельную ветку сценария, где навык не будет проверять другие команды, соединяться с базами данных и подключать сторонние библиотеки, а сразу завершит работу. Это ускорит ответ навыка, снизит нагрузку на сервер и позволит избежать затрат при платных запросах в базы данных.

• Видео «Публикация и продвижение навыков»

Почему навык отключили после публикации?

После публикации навыка Яндекс Диалоги периодически проверяют его работу. Если навык не отвечает несколько часов, его отключат. Проверьте его на соответствие протоколу работы, исправьте ошибки и повторно отправьте на модерацию.

Почему навык не прошел модерацию?

Навык не пройдет модерацию, если его настройки не соответствуют требованиям. Чтобы увидеть причину, выберите навык в консоли разработчика и перейдите на вкладку Общие сведения → Анализ результатов.

Как отправить приватный навык на модерацию?

Чтобы отправить приватный навык на автомодерацию, выберите навык в консоли разработчика и нажмите Опубликовать.

Для чего нужны команды «Помощь» и «Что ты умеешь»?

Это универсальные команды. Они сориентируют пользователя и расскажут об основных возможностях навыка. Это позволяет удержать пользователя в навыке и помочь ему вернуться в основную ветку сценария после ошибки голосового ввода. Подробнее о командах см. в разделе Содержание навыка.

Была ли статья полезна?

Что такое Azure Content Moderator? — Azure Cognitive Services

Twitter LinkedIn Facebook Адрес электронной почты

• Статья
• 10/05/2022
• Чтение занимает 2 мин

Важно!

Поддержка API-интерфейсов проверки Content Moderator и веб-средства проверки прекращена 31 декабря 2021 г. API-интерфейсы модерации все еще доступны.

Azure Content Moderator — это служба ИИ, позволяющая управлять контентом, который может носить оскорбительный характер или представлять опасность либо нежелательным контентом иного рода. Она включает службу модерации контента на основе ИИ, которая позволяет проверять текст, изображения и видео, а также автоматически применять флаги содержимого.

Возможно, вам потребуется встроить в свое приложение программное обеспечение для фильтрации контента, чтобы поддерживать соответствие нормативным требованиям или организовать надлежащую среду для пользователей.

Эта документация включает статьи следующих типов:

• Краткие руководства — инструкции по началу работы и отправке запросов в службу.
• Руководства — содержат инструкции для более специфического или специализированного использования службы.
• Статьи с основными понятиями — здесь подробно описываются функциональность и возможности службы.
• Руководства — объемные статьи, в которых описываются способы использования службы в качестве компонента расширенных бизнес-решений.

Для более структурированного подхода следуйте модулю обучения для Content Moderator.

• Введение в Content Moderator
• Классификация и модерация текста с помощью Azure Content Moderator

Сценарии использовании

Ниже приведены несколько сценариев, в которых разработчику программного обеспечения или команде требуется служба модерации контента:

• интернет-магазины с модерацией каталогов продукции и создаваемого пользователями содержимого;
• компании-разработчики игр, которые модерируют создаваемые пользователями игровые артефакты и чаты;
• социальные платформы для обмена сообщениями с модерацией изображений, текста и видео, добавляемых пользователями;
• корпоративные медиакомпании, внедряющие централизованную модерацию своего содержимого;
• поставщики образовательных решений K-12, фильтрующие неуместное содержимое для учащихся и преподавателей.

Важно!

Вы не можете использовать Content Moderator для проверки изображений на наличие сцен противозаконной эксплуатации детей. Однако квалифицированные организации могут использовать облачную службу PhotoDNA для проверки контента такого типа.

Компоненты

Служба Content Moderator состоит из нескольких API веб-службы, доступных через вызовы REST и пакет SDK для .NET.

API модерации

В службу Content Moderator входят API модерации, которые проверяют содержимое на наличие потенциально неприемлемых или нежелательных материалов.

Различные типы API модерации описаны в следующей таблице.

Группа API	Описание
Модерация текста	Просматривает текст на наличие оскорбительного содержимого, содержимого сексуального или непристойного характера, содержимого с ненормативной лексикой и персональными данными.
Пользовательские списки терминов	Проверяет текст с использованием настраиваемого списка терминов наряду со встроенным списком. Используйте пользовательские списки для блокировки или разрешения содержимого в соответствии с собственными политиками содержимого.
Модерация изображений	Проверяет изображения на наличие непристойного содержимого или содержимого для взрослых, выявляет в изображениях текст с помощью функции распознавания текста, а также распознает лица.
Пользовательские списки изображений	Проверяет изображения с использованием пользовательского списка изображений. Используйте пользовательский список изображений для фильтрации экземпляров часто встречающегося содержимого, которое вы не хотите классифицировать еще раз.
Модерация видео	Проверяет видео на наличие непристойного содержимого или содержимого для взрослых и возвращает метки времени для указанного содержимого.

Конфиденциальность и безопасность данных

Как и в случае со всеми другими Cognitive Services, разработчикам, использующим службу Content Moderator, следует учитывать политику корпорации Майкрософт касательно клиентских данных. Дополнительные сведения см. на странице о Cognitive Services Центра управления безопасностью Майкрософт.

Дальнейшие действия

Чтобы приступить к работе с Content Moderator на веб-портале, выполните инструкции по пробной работе с Content Moderator в Интернете. Или изучите краткое руководство по клиентской библиотеке или REST API, чтобы реализовать базовые сценарии в коде.

Я создал новое событие, почему оно не отображается в Афише событий на Timepad?

Не вижу событие в афише, почему?

Новая афиша — вход по номеру телефона

Критерии модерации событий

Критерии автоматической модерации

Если события нет в афише, вот несколько причин почему :

1. Модераторы еще не проверили ваше событие: мы проверяем новые события один раз в день утром и только в будни. Подождите некоторое время после публикации.
2. Проверьте, что событие публичное, а во вкладке «Редактирование» → «Описание события» не выбрано «Доступ по прямой ссылке» и «Полностью скрытое».
3. Выставите нужные фильтры на странице Афиши: тема, место и время проведения. Также найти событие можно по поиску, для этого наберите заголовок своего события в кавычках.
4. Ваше событие отклонено модератором и не попало в Афишу. Нам  важно, чтобы организаторам качественных и интересных мероприятий и их участникам было как проще найти друг друга. Поэтому мы проводим редакторскую проверку.

Если вы не нашли свое событие в Афише, напишите нам через эту форму, в заявке обязательно прикрепите ссылку на свое событие — мы всё проверим и дадим подробный ответ. 

Событие отклонено при модерации: что это означает для участника?

Пользователь, открывая каталог событий Timepad, видит только события, проверенные редакцией и отобранные как интересные и качественные. 

Событие отклонено при модерации: что это означает для организатора?

Все новые события, прежде чем попасть в ленту, проходят проверку модератором по определенным критериям (подробное описание критериев — чуть ниже в статье). В зависимости от решения модератора, событие может быть одобрено и добавлено в Афишу, либо отклонено и не допущено в ленту.

Чтобы ваше событие увидело максимальное число потенциальных участников, уделите чуть больше внимания содержанию и оформлению страницы мероприятия.

Модераторы проверяют новые события один раз в день утром и только в будни, поэтому рекомендуем рассчитывать заранее время публикации новых событий, чтобы они не «зависали» на модерации на выходные. Если вы планируете впоследствии дополнять и оформлять событие, не публикуйте его, а оставьте в черновиках, иначе оно может быть отклонено.

Вход в Афишу возможен только по номеру телефона (только +7). 

Участники при регистрации получают личный кабинет, в который автоматически подтягиваются все билеты и регистрации, связанные с номером телефона и почтой. Новые заказы сразу сохраняются в личном кабинете. Зарегистрироваться на событие можно из Афиши, не переходя на страницу мероприятия на Timepad. 

Афиша имеет ряд технических ограничений, поэтому в нее не попадают:

• события с прикрепленным файлом к анкете (тариф «Расширенный»), 
• события не прошедшие модерацию (можно отправить на повторную проверку, для этого напишите нам в поддержку),
• события с рассадкой (схемой зала), 
• платные события организаций без договора, 
• события с функцией «Подтверждение заявок», 
• события с любыми кастомизациями, в том числе благотворительный кастом для организаторов с тарифом «Благотворительный». 

Критерии модерации новых событий:

• События с такими тематиками, как астрология, магия, экстрасенсорика, секс, соблазнение (пикап) проходят в афишу по решению модератора.
• События, предполагающие дегустацию алкоголя или табакокурение обязательно должны иметь отметку (18+) в заголовке.
• События, в описании которых содержатся ссылки на сторонние анкеты регистраций и формы для оплат, полностью скрываются из Афиши. Это противоречит пункту 4.2.18 Правил пользования сайтом.  
• События, в тексте которых содержатся сленг, нецензурная лексика, кричащие и грубые заголовки, полностью скрываются из Афиши.
• Объявления, не связанные с событиями (реклама частных услуг, вакансии и т.п.), полностью скрываются из Афиши.
• Полностью скрываются из каталога тестовые события.
• Скрываются события, призывающие к недобросовестности, неэтичным действиям или нарушению закона.

Автоматически отклоняются события:

• в заголовке, которых есть слова «Бесплатно/Бесплатный/Бесплатное» — эту информацию не нужно дублировать, так как у события есть поле цена, в Афише все бесплатные событие уже имеют отметку «бесплатно».
• без полного описания — не забудьте рассказать о том, что ждет посетителей на вашем мероприятии. 
• без краткого описания — в двух-трех предложениях сделайте анонс своего события. 
• в которых краткое описание более 500 знаков.
• с типом публикации «скрытое» и «доступно по ссылке».
• со старым дизайном страницы, чтобы попасть в Афишу, создайте новое событие.

Если ваше событие было отклонено, но вы внесли изменения и хотите, чтобы событие попало в Афишу, заполните эту форму. Прикрепите в письме ссылку на свое событие, а в теме укажите «Повторная модерация». 

Наши советы по оформлению мероприятий найдете в этих статьях:

Как улучшить оформление мероприятия и увеличить продажи

Как оформить страницу события, чтобы привлечь больше участников

Правил пользования сайтом

Что такое модерация контента? – Besedo

Что такое модерация контента?

Модерация контента — это когда онлайн-платформа просматривает и отслеживает пользовательский контент на основе правил и рекомендаций для конкретной платформы, чтобы определить, следует ли публиковать контент на онлайн-платформе или нет.

Другими словами, когда контент отправляется пользователем на веб-сайт, этот фрагмент контента проходит процесс проверки (процесс модерации), чтобы убедиться, что контент соответствует правилам веб-сайта, не является незаконным, неуместным, или домогательства и т. д.

Модерация контента как практика распространена на онлайн-платформах, которые в значительной степени зависят от контента, создаваемого пользователями, таких как платформы социальных сетей, онлайн-рынки, экономика обмена, сайты знакомств, сообщества и форумы и т. д.

Существует несколько различных форм модерации контента; премодерация, постмодерация, реактивная модерация, распределенная модерация и автоматическая модерация. В этой статье мы более подробно рассмотрим модерацию вручную и автоматическую модерацию, но если вам интересно узнать больше, вот статья, посвященная 5 методам модерации.

Что такое человеческая умеренность?

Модерация вручную или модерация вручную — это практика, когда люди вручную отслеживают и проверяют пользовательский контент, который был отправлен на онлайн-платформу. Модератор-человек следует правилам и рекомендациям для конкретной платформы, чтобы защитить онлайн-пользователей, не допуская нежелательного, незаконного и неприемлемого контента, а также мошенничества и домогательств на веб-сайт.

Что такое автоматическая модерация?

Автоматическая модерация означает, что любой пользовательский контент, отправленный на онлайн-платформу, будет автоматически принят, отклонен или отправлен на модерацию человеком на основе конкретных правил и рекомендаций платформы. Автоматическая модерация — это идеальное решение для онлайн-платформ, которые хотят гарантировать, что качественный контент, созданный пользователями, сразу же появится в сети, а пользователи будут в безопасности при взаимодействии с их сайтом.

Согласно исследованию, проведенному Microsoft, люди в среднем остаются внимательными только в течение 8 секунд. Таким образом, онлайн-платформы не могут позволить себе медленную доставку контента, созданного пользователями, иначе они рискуют потерять своих пользователей. С другой стороны, пользователи, столкнувшиеся с некачественным контентом, спамом, мошенничеством, неприемлемым контентом и т. д., скорее всего, мгновенно покинут сайт. Так, где это оставляет нас? Чтобы онлайн-платформы не ставили под угрозу качество или время выхода на сайт, им необходимо рассмотреть возможность автоматической модерации.

Говоря об автоматической модерации, мы часто имеем в виду ИИ с машинным обучением (модерацию ИИ) и автоматические фильтры. Но какие они на самом деле?

Что такое модерация ИИ?

Модерация ИИ или специализированная модерация ИИ — это модель машинного обучения, созданная на основе данных, специфичных для онлайн-платформы, для эффективного и точного обнаружения нежелательного контента, создаваемого пользователями. Решение для модерации на основе ИИ будет принимать очень точные автоматические решения по модерации — автоматически отклонять, одобрять или распространять контент.

Одним из примеров, демонстрирующих возможности модерации ИИ, является швейцарский онлайн-рынок Anibis, который успешно  автоматизировал 94 % своей модерации, достигнув точности 99,8 %.

Пока у вас есть высококачественный набор данных, на основе которого можно строить модели, модерация ИИ отлично подходит для рутинных решений. Он отлично справляется с делами, которые почти всегда выглядят одинаково или очень похожи. Обычно это включает в себя подавляющее большинство элементов, которые размещаются на онлайн-рынках, и поэтому большинство платформ могут извлечь выгоду из использования модерации ИИ.

Следует также упомянуть; что модерация ИИ может быть построена на общих данных. Эти модели могут быть эффективными, но они не так точны, как специализированное решение ИИ, поскольку они не учитывают правила и обстоятельства для конкретного сайта.

Что такое автоматическая модерация фильтров?

Автоматическая модерация фильтров — это набор правил для автоматического выделения и отлова нежелательного контента. Фильтры (или правила) эффективны при поиске контента, который нельзя неправильно истолковать или который является очевидным мошенничеством.

Фильтры

также отлично подходят для покрытия внезапных изменений правил, когда ИИ еще не набрал скорость (обучение требует некоторого времени и качественного набора данных). Это было хорошо продемонстрировано, когда пандемия коронавируса внезапно сделала маски и туалетную бумагу проблематичными. Это делает фильтры надежным дополнительным инструментом автоматизации для настройки модерации.

Автоматические фильтры можно легко создавать, редактировать, и удалять в нашем универсальном инструменте модерации контента Implio — узнайте, как  создайте здесь фильтры.

Узнайте, как проводить модерацию без цензуры

Почему для модерации контента без цензуры пользователей требуются согласованные и прозрачные политики.

Электронная почта (обязательно)

Без названия (обязательно)

Да, я хочу получать отраслевые новости, обновления продуктов и предложения от Besedo. *

Что можно и чего нельзя делать при модерации контента

Определение того, что делать и что не делать при модерации контента, может варьироваться от сайта к сайту. Существует множество элементов и факторов, которые необходимо учитывать, чтобы настройка модерации наилучшим образом соответствовала вашим конкретным потребностям.

Однако, независимо от того, используете ли вы онлайн-рынок, платформу социальных сетей, сайт экономики совместного использования и т. д., есть некоторые верные вещи о том, что делать и чего не делать, когда дело доходит до модерации контента.

Действия по модерации контента

• Сделать: Выберите метод модерации, который подходит для ваших нужд. Это поможет вам создать четкое представление о том, что требуется от вашего метода модерации и настройки. Например, тип пользовательского контента, который можно найти на Medium, отличается от Facebook, как и поведение их пользователей. Это заставляет их методы модерации и настройки выглядеть по-разному, чтобы соответствовать конкретным потребностям их платформы.
• Сделать: Разработать четкие правила и инструкции по модерации контента . Правила и рекомендации должны быть понятны всем, кто непосредственно участвует в модерации контента на вашей онлайн-платформе. Все, от специалиста по обработке и анализу данных, разрабатывающего вашу модерацию ИИ, до модератора-человека, просматривающего контент, независимо от того, работают ли они внутри компании или отданы на аутсорсинг партнерам. Неопределенность в вашем своде правил может свести на нет ваши усилия по модерации; как с финансовой точки зрения, так и с точки зрения пользовательского опыта.
• Делайте: модерируйте все типы контента . Независимо от того, используете ли вы интернет-магазин, сайт знакомств или платформу социальных сетей, ваши пользователи являются ключевыми участниками вашей платформы. Убедитесь, что они наслаждаются приятными впечатлениями и встречают качественный контент на вашем сайте, это должно вас заинтересовать. Для этого вам нужно убедиться, что модерация вашего контента выполнена правильно. В идеальном мире модерация всех типов контента на вашем сайте, от текста и изображений до видео и личных сообщений, была бы идеальной. Однако реальность такова, что этот подход возможен не для всех онлайн-платформ; по финансовым и техническим причинам. Если это ваш случай, как минимум убедитесь, что вы определили свой категории и контент с высоким уровнем риска  и начните модерацию там.

Запреты модерации контента

• Не допускайте неправильного толкования хорошего контента. Не совершайте ошибку, неправильно интерпретируя хороший контент, и в конечном итоге отвергайте пользовательский контент просто потому, что он негативного характера. Например, отрицательный комментарий или отзыв после транзакции все еще может быть хорошим содержанием, если, конечно, не используется грубая лексика. Подлинный контент — это то, что вам нужно, поскольку он повышает качество и доверие пользователей.
• Не делайте этого: слишком долго ждите, прежде чем приступить к модерации . Если вы находитесь на ранних этапах создания своей онлайн-платформы, вам может показаться, что до начала модерации контента еще далеко. Это не. Не поймите нас неправильно, возможно, это не должно быть вашим главным приоритетом с самого начала, но вам нужно иметь план того, как обрабатывать пользовательский контент с точки зрения модерации при масштабировании. По мере того, как вы растете и начинаете действовать сетевой эффект, вы часто видите быстрое увеличение количества контента, заливающего ваш сайт. Вы должны быть готовы справиться с этим; в противном случае ваш большой перерыв может навредить вам в долгосрочной перспективе.
• Не тратьте ресурсы впустую – Не изобретайте велосипед. Имея на рынке несколько инструментов и решений для модерации контента, таких как Implio , , важно тщательно расставлять приоритеты для своих ресурсов. Инновации и рост — это то, что приведет вашу онлайн-платформу к успеху, и именно здесь ваши ресурсы разработчиков дадут вам наибольшее конкурентное преимущество. Найдите способ  высвободить ресурсы для инноваций , не рискуя отстать от модерации.

Последние новости о модерации контента прямо в вашем почтовом ящике

Подпишитесь на нашу рассылку, чтобы оставаться в курсе.

Связанные статьи

Посмотреть всеПосмотреть все статьи

игры Пользовательский опыт Игры Имплио

Обеспечение безопасности вашей игровой платформы и улучшение пользовательского опыта

Предотвратите запугивание, ухаживание и домогательства на игровой платформе, которую вы используете. Обмен сообщениями в приложении должен быть безопасным местом для всех игроков — на кону безопасность ваших пользователей и ваша репутация.

Знакомства Индивидуальное решение

Добро пожаловать в эпоху поддельных профилей знакомств

С появлением онлайн-знакомств возникла проблема поддельных профилей. Итак, почему люди создают поддельные профили знакомств и что делается, чтобы остановить это?

пользовательский опыт Индивидуальное решение

Как плохой UX может разрушить ваш онлайн-бренд

С платформами пользовательского контента вы, по сути, передаете огромную часть своего пользовательского опыта своему сообществу.

Тенденции Торговая площадка

Лучшие онлайн-рынки мира 2022

Узнайте, какие онлайн-рынки являются крупнейшими в разных странах, категориях и т. д. в нашем списке крупнейших онлайн-рынков.

Знакомства

Как приложения для знакомств могут быть кокетливыми, но не грязными?

Тенденции

Эволюция языка, часть третья

Нетфликс Знакомства

Убедитесь, что приложения для знакомств посвящены любви, а не мошенничеству

Тенденции

Эволюция языка, часть вторая

Тенденции

Эволюция языка, часть первая

Тенденции

Все изменения: краткий обзор основных тенденций модерации контента

Это Besedo

Мировой лидер в области модерации контента с полным спектром услуг

Мы обеспечиваем автоматическую и ручную модерацию онлайн-рынков, онлайн-знакомств, экономики обмена, игр, сообществ и социальных сетей.

Посредничество и модерация — в чем разница?

Статистика 0

Автор: Шайенн Чуи, аспирант (нейропсихология)Опубликовано 5 апреля 2020 г. 12 апреля 2020 г.

Time to Read:-words

Посредничество против модерации

Это просто чтобы спутать два. Они звучат похоже, и хотя оба смотрят на то, как третий переменная вписывается в интересующие отношения, они не совпадают. Давайте сломать все это. В этом посте мы остановимся на некоторых ключевых характеристиках посредничество и модерация. Мы также поговорим о некоторых ключевых отличиях между этими анализами.

Посредничество

А посреднический анализ является расширением множественной регрессии. Мы начинаем думать о посредничестве, когда мы хотим объяснить почему или как X влияет на Y . Это сообщает нам больше информации о , как и почему является независимой переменной. влияет на зависимую переменную. Соотношение между X и Y таково. общий эффект .

Двумерная регрессия или корреляция Пирсона между X и Y представляет собой суммарный эффект .
Суммарный эффект представляет собой отношение между X и Y когда посредник отсутствует .

В посредничество, мы добавляем независимую переменную, называемую посредником . Посредники опосредуют связь между X и Y . Это происходит из-за того, что X влияет на M , что приводит к M , влияющему на Y, , что называется косвенный эффект . Прямой эффект представляет собой отношение между X и Y в присутствии посредника. Посредничество происходит, когда (1) имеется статистически значимый косвенный эффект (2) прямой эффект меньше общего эффекта.

В посредническом анализе мы хотим получить корреляции нулевого порядка или двумерные корреляции между X и M и между M и Y. Затем множественная регрессия используется для получения прямых и косвенных эффектов , где X и M — независимые переменные, а Y — зависимая переменная.

Модерация

Модерация анализирует взаимодействий . Другими словами, нас интересует влияет ли X на Y варьируется в зависимости от другого переменная (например, модератор).

Модератор переменные изменяют связь между X и Y . Они влияют на силу и направление отношения между X и Y . Это означает, что эффект X на Y может изменить в зависимости от модератора .

В анализе модерации мы хотим рассчитать срок взаимодействия ( х * м ).
Используя анализ иерархической множественной регрессии , мы вводим две независимые переменные ( X и W ) на шаге 1, член взаимодействия на шаге 2 и Y в качестве зависимой переменной.

Взаимодействие или термин продукта представляет эффект модератора. Мы можем рассчитать член взаимодействия путем умножения независимой переменной на модератора ( X * W ).

Ключевые отличия

Медиаторы есть возможных объяснений связи между X и Y . Модераторы влияют на величину эффекта X на Y . Еще одно отличие заключается в отношениях между посредниками и модераторами. с независимой переменной. Теоретически посредники являются результатом независимого переменная (т. е. X → M ). С другой стороны, нет предполагаемая направленная связь между X и модератором (т. е. X ↔ M ).

В целом, мы используем посреднический анализ для объяснения отношений. Мы используем анализ модерации, чтобы понять, какие переменные влияют на силу и направление отношений.

Источники

• Барон Р. и Кенни Д. (1986). Различие переменных модератора и посредника в социально-психологических исследованиях: концептуальные, стратегические и статистические соображения. Журнал личности и социальной психологии, 51, 1173-1182.
• Джаннулис К. (2020). Модерировать или быть посредником? Получено с https://www.theanalysisfactor.com/to-moderate-or-to-mediate/
• Джеймс Гаскин (2018 г., 05 февраля). Медиатор или модератор? [Видео файл]. Получено с https://www.youtube.com/watch?v=WZr1jlKi_s0
• Statistics Solutions (2020). В чем разница между модерацией и посредничеством? Получено с https://www.statisticssolutions.com/what-is-the-difference-between-moderation-and-mediation/
• University of Wisconsin-Madison (1999). Переменные посредника и модератора. Получено с https://psych.wisc.edu/henriques/mediator.html. и лучшие API-интерфейсы

  В 2017 году несколько крупных брендов взбунтовались, когда обнаружили, что их рекламный контент был размещен рядом с видео о терроризме на крупной платформе для обмена видео. Они быстро удалили свою рекламу, но по понятным причинам были обеспокоены любыми долгосрочными последствиями этой ошибки для имиджа их компании.

  Очевидно, бренды стараются избегать плохого размещения рекламы — тогда и сейчас. Но с бурным ростом онлайн-общения с помощью видео, сообщений в блогах, социальных сетях и т. д. предотвратить повторение кризисов, подобных упомянутому выше, сложнее, чем можно было бы подумать.

  Многие платформы обратились к модераторам человеческого контента, чтобы попытаться решить эту проблему. Но мало того, что люди не могли вручную просеивать и проверять каждую часть контента — только в Твиттере каждый день отправляется около 500 миллионов твитов — многие модераторы обнаружили, что контент, который они должны были изучить, отрицательно сказался на их психическом здоровье.

  К счастью, недавние крупные достижения в области искусственного интеллекта, машинного обучения и глубокого обучения сделали сегодня реальностью значительно более точную автоматизированную модерацию контента.

  В этой статье будет рассмотрено, что такое модерация контента на основе ИИ, как она работает, некоторые из лучших API-интерфейсов для модерации контента и несколько наиболее распространенных вариантов ее использования.

  Что такое модерация контента?

  API-интерфейсы модерации контента используют модели искусственного интеллекта для обнаружения конфиденциального контента в текстовой части, в том числе опубликованной через онлайн-платформы или социальные сети. Некоторые популярные API-интерфейсы преобразования речи в текст также предлагают модерацию контента в дополнение к данным транскрипции из аудио- или видеопотоков. Это расширяет возможности модерации контента для видеоплатформ, таких как YouTube, платформ для подкастов, таких как Spotify, и других.

  Как правило, API модерации контента обнаруживает конфиденциальный контент, включающий темы, связанные с наркотиками, алкоголем, насилием, деликатными социальными проблемами, разжиганием ненависти и т. д.

  Вот пример того, что может быть включено API модерации контента в качестве «конфиденциального контента»:

  После обнаружения платформы могут использовать эту информацию для автоматизации принятия решений относительно размещения рекламы, принятия контента и т. д. Определение приемлемого и неприемлемого может варьироваться в зависимости от платформы и отрасли, поскольку каждая из них имеет свой собственный набор правил, пользователей и потребностей.

  Как работает модерация контента?

  Модели модерации контента обычно разрабатываются с использованием одного из трех методов: генеративного, классификатора и анализа текста.

  Генеративная модель принимает входной текст и создает список тем модерации контента, которые могут быть включены или не включены в исходный текст. Например, генеративная модель может пометить входной текст Он выкурил сигарету после обеда как содержащий ссылки на табак .

  Модель классификатора будет принимать входной текст, а затем выводить вероятность того, что текст соответствует заранее определенному списку категорий конфиденциального контента. Например, простая модель модерации контента классификатора может быть разработана с тремя возможными выходными данными: разжигание ненависти , насилие и ненормативная лексика . Затем модель будет выводить вероятность того, что текст соответствует каждой из вышеуказанных возможностей.

  Наконец, общий 9Модель анализа текста 0067 может использоваться для модерации контента. С помощью этого метода можно было бы использовать подход «черного списка» и создать мини-словарь слов из черного списка для каждой предопределенной категории, такой как преступление или наркотики . Если входной текст, переданный через модель, содержал одно из этих перечисленных слов, он классифицировал текст в соответствии с категорией, в которой это слово было указано. Этот подход имеет свои ограничения, поскольку, например, создание исчерпывающих списков для каждой категории может оказаться сложной задачей. Модель анализа текста также может упустить важный контекст, который может помочь более точно классифицировать слово.

  Лучшие API для модерации контента

  Теперь, когда мы рассмотрели, что такое модерация контента и как работают модели модерации контента, мы углубимся в самые популярные API модерации контента, доступные сегодня. Обратите внимание, что некоторые из этих API предлагают модерацию контента только для статических текстов, в то время как другие выполняют модерацию контента поверх расшифрованных данных из аудио- или видеопотоков в дополнение к статическим текстам.

  1. API модерации контента AssemblyAI

  AssemblyAI — ведущий стартап в области глубокого обучения, предлагающий API преобразования речи в текст и аудио, включая модерацию контента, обнаружение сущностей, суммирование текста, анализ тональности, редактирование персональных данных и многое другое.

  С помощью API модерации контента группы разработчиков и разработчиков могут точно определить, какой конфиденциальный контент был произнесен и где он встречается в аудио- или видеофайле. Эти команды также получают оценку серьезности и достоверности для каждой помеченной темы.

  Например, API модерации контента AssemblyAI обнаружил, что health_issues присутствуют в следующем текстовом сегменте транскрипции:

   Да, это так. Почему это происходит? Отменив Охоту, ваш
  мозг может перестать настойчиво смотреть на уродливую сестру, дав правильный набор
  нейронов шанс активироваться. Кончик языка, особенно
  блокировка на имя человека, это абсолютно нормально. 25-летние могут
  испытывают несколько кончиков языков в неделю, но молодые люди не
  потеют, отчасти потому, что старость, потеря памяти и болезнь Альцгеймера
  нигде на их радарах. 

  Цены начинаются с 0,000583 долларов США в секунду в дополнение к цене базовой транскрипции, хотя разработчики или менеджеры по продуктам, желающие протестировать API, могут сделать это бесплатно здесь.

  Тестируйте API Audio Intelligence от AssemblyAI бесплатно

  2. Azure Content Moderator

  Microsoft Azure Content Moderator является частью набора продуктов Cognitive Services. Его API может обнаруживать конфиденциальный или оскорбительный контент в тексте и видео. Пользователи также могут использовать его инструмент Human Review, чтобы повысить уверенность в реальном контексте.

  Цены на инструмент Azure Content Moderator начинаются с 1 доллара США за 1000 транзакций. Человеческая модерация включена в стандартную стоимость API. Тем, кто хочет попробовать API, следует ознакомиться с руководством по началу работы здесь.

  3. Amazon Rekognition

  Amazon Rekognition предлагает модерацию контента для анализа текста и видео в дополнение к другим функциям Audio Intelligence, таким как анализ тональности, определение текста и т. д. API модерации контента идентифицирует и помечает конфиденциальный и оскорбительный контент в видео и текстах вместе с соответствующей оценкой достоверности.

  Для использования Amazon Rekognition вам потребуется учетная запись AWS, идентификатор учетной записи AWS и профиль пользователя IAM. Это руководство поможет вам начать работу.

  4. API модерации контента DeepAI

  API модерации контента DeepAI анализирует тексты для обнаружения и маркировки деликатного или оскорбительного контента. Компания предлагает краткие руководства по началу работы и документацию, чтобы пользователи могли быстро начать работу. Разработчики, желающие продолжить изучение тем AI или NLU/NLP, должны ознакомиться с исследованиями, новостями и наборами данных DeepAI на их основном веб-сайте.

  5. Модерация Hive

  API модерации Hive выполняет модерацию контента для текстов, видео и аудиопотоков. API обнаруживает более 25 подклассов в 5 различных классах оскорбительного или деликатного контента, включая NSFW, насилие, наркотики, ненависть и атрибуты, а также оценку достоверности. Документацию Hive можно найти здесь, но разработчикам, желающим протестировать API, придется подписаться на демонстрацию здесь.