Контекст
AIModerator сделан для канала How2AI (сейчас - популярный канал по нейросетям) осенью 2024 года. Идея простая: каждое подозрительное сообщение читает ИИ-модератор и сам решает, что с ним делать. За 2025 год бот снял с админов 9 000 сообщений - в среднем 25 действий в день.
С января 2025 продукт вышел в открытую бету на aimoderator.ru и подключил ещё несколько чатов.
Что увидел модератор за год
- Среднее - 25 действий в день. Спокойные месяцы (июнь-июль) дают по 7-10/день. Пиковые (март-апрель 2025) - по 60-80/день. Максимум за день - 82.
- Пик активности спамеров - 14:00 MSK. Не «ботнеты 24/7», а живые операторы в основном из европейской части России. Утро и поздний вечер почти пусты.
Типичный спам по тексту
Шаблоны примерно одинаковые:
Есть интересная темка для заработка, доход от 5 000 в день, всё объясняю лично, пишите в лс.
Появилось небольшое дело на сегодня, работа аккуратная и несложная, оплата 4000 рублей.
Стоп-слова такое не ловят: «темка», «дело», «занятие», «подработка» - комбинаторика слов бесконечная. ИИ-модератор смотрит на смысл - «предложение быстрого заработка с уводом в личку» - и работает независимо от формулировки.
Эволюция спама
Спам эволюционирует - часть ботов упаковывает текст в картинки. Следующая итерация модератора подключает vision-модель (Claude или GPT-4o), которая читает изображения и применяет ту же логику классификации.
Метрики
- 17 месяцев в production - сентябрь 2024 → февраль 2026
- ~9 000 модерационных действий за 2025 год
- 99% удаления текстового спама по результатам трёх месяцев замеров
- Срабатывание - за секунды
Ограничения
Следующая итерация подключает vision-модель для распознавания спама в картинках и публичную базу паттернов.