Детекция и порог

Как ИИ-классификатор оценивает контент и как настроить порог.

Каждое фото, кадр видео, стикер или картинка превью ссылки, которую проверяет бот, прогоняется через модель классификации изображений, которая оценивает три категории:

  • Porn — порнографические изображения, сексуальные акты.
  • Hentai — хентай и порнографические рисунки.
  • Sexy — откровенные изображения, не являющиеся порнографией.

Порог

Слайдер порога детекции
Слайдер порога детекции

Порог детекции — это один процент от 0 до 100:

  • 0% удаляет почти всё, что модель хоть немного заподозрила, даже с низкой уверенностью.
  • 100% удаляет только то, в чём модель абсолютно уверена.
  • По умолчанию 75% — золотая середина, которая ловит явные нарушения, не действуя по пограничным случаям.

В нарушение засчитываются только категории, выбранные в Фильтровать эти категории — см. Категории. Файл с высоким баллом по невыбранной категории игнорируется.

Режим отладки: увидеть оценку заранее

Напишите боту в личку (не в группу) фото, видео, GIF, стикер или видео-заметку с подписью debug. В ответ придёт точная разбивка по категориям и вероятность, которую вычислил бот — группа при этом не затрагивается. Используйте это, чтобы откалибровать порог, прежде чем полагаться на него в живой группе. Вариант для администратора группы — см. Режим отладки.

Классификация выполняется по кэшированному отпечатку файла — повторно опубликованный уже проверенный файл заново не анализируется.

Бесплатные группы проверяют один кадр-превью на видео, видео-заметку или GIF. Премиум-группы анализируют 10 кадров по всему видео — если хотя бы один кадр превышает порог, файл удаляется целиком, так что контент, скрытый после первой секунды, тоже будет пойман.