AI-детекция негатива

Orbo использует AI для обнаружения конфликтов, жалоб и негативных обсуждений в группах.

Как это работает

  1. Orbo проверяет новые сообщения групп с заданным интервалом (по умолчанию раз в час, минимум раз в 15 минут) — до 50 последних сообщений за окно. Имена авторов перед отправкой в модель заменяются на обезличенные.
  2. При обнаружении негативного паттерна (жалоба, конфликт, агрессия) создаётся запись в ленте уведомлений.
  3. Администратор получает уведомление с цитатой и контекстом — одно на группу, с несколькими пунктами, если эпизодов несколько. По той же группе повтор придёт не раньше чем через 2 часа; если серьёзность выросла, уведомление приходит с пометкой «Эскалация».

Чувствительность

Вместо уровней серьёзности настраивается чувствительность от 1 до 5 (по умолчанию 3): от «только угрозы и тяжкие оскорбления» (1) до «любой намёк на раздражение» (5). Внутри Orbo всё равно оценивает серьёзность эпизода и показывает её в уведомлении.

Настройка правила

  1. Настройки → Уведомления → Создать правило → Негатив в чате.
  2. Задайте чувствительность и интервал проверки.
  3. Выберите группы (или все группы) и получателей — владельцу и/или администраторам.
  4. При желании опишите в поле «На что обращать внимание» специфику сообщества.

Канал не выбирается: уведомление приходит в Telegram, а если Telegram недоступен — письмом.

Что приходит в уведомлении

  • Ссылка на сообщение в группе (для Telegram-групп; у MAX-групп ссылки нет)
  • Цитата из обсуждения
  • Оценка серьёзности
  • Краткое описание от AI (например: «Участник жалуется на качество контента»)

Точность

AI ошибается в ~10% случаев. Ложные срабатывания чаще всего происходят на:

  • Ирония и сарказм
  • Обсуждение негативных новостей (не связанных с сообществом)
  • Активные дебаты без реального конфликта

Если алерт ложный — отметьте его решённым и при необходимости уточните поле «На что обращать внимание» или снизьте чувствительность.

Ограничения

  • Анализ только текстовых сообщений (голос и видео не обрабатываются)
  • Работает на русском и английском языках
  • Срабатывает уже от одного сообщения; контекст — остальные сообщения окна проверки