"Поиск работает нормально" — худший аргумент для руководства. Чтобы получить бюджет на внедрение AI-поиска, нужны цифры. A/B-тестирование — единственный способ объективно сравнить старый поиск с новым и доказать ROI.
Почему A/B-тесты критичны для поиска
Поиск — это не "включил и забыл". Это продуктовая фича, которая напрямую влияет на выручку. Без измерений вы не знаете:
- Сколько покупателей уходят из-за пустых результатов
- Какая конверсия из поиска vs из каталога
- Как новый алгоритм влияет на средний чек
- Какие запросы приносят больше всего денег
"Мы 3 года думали, что поиск "нормальный". После первого A/B-теста выяснилось, что 31% запросов возвращают 0 результатов. Мы теряли 2.3 млн ₽ в месяц." — Product-менеджер, fashion-ритейлер
Какие метрики отслеживать
Как правильно провести A/B-тест поиска
Шаг 1: Определите гипотезу
Не "проверим новый поиск", а конкретно:
- "AI-ранжирование увеличит конверсию из поиска на 20% за 2 недели"
- "Автокоррекция опечаток сократит пустые запросы с 25% до 10%"
- "Мобильные фильтры увеличат использование фильтров на 50%"
Шаг 2: Разделите трафик
Классическое разделение: 50/50 или 80/20 (для осторожных). Главное правила:
- Один пользователь всегда видит одну версию (cookie-based или user ID)
- Разделение случайное, но стратифицированное по устройствам и источникам
- Минимальный размер выборки: 1000 поисковых сессий на каждую версию
Шаг 3: Зафиксируйте контрольные точки
Не меняйте ничего, кроме тестируемого элемента:
- Одинаковые цены и акции в обеих группах
- Одинаковый ассортимент
- Одинаковый дизайн (кроме тестируемого элемента)
- Одинаковый период (не тестируйте в Чёрную пятницу и обычный вторник)
Шаг 4: Длительность теста
Минимум 7 дней (чтобы захватить разные дни недели). Оптимум — 14 дней. Для сезонных товаров — полный сезонный цикл.
Шаг 5: Статистическая значимость
Результат считается достоверным при:
- p-value < 0.05 (95% уверенность)
- Минимум 100 конверсий на каждую версию
- Относительный прирост > 10% (меньше — шум)
Шаблон отчёта для руководства
Презентуйте результаты в формате "проблема → решение → цифры → деньги":
Структура отчёта:
Инструменты для A/B-тестирования поиска
| Инструмент | Для чего | Стоимость |
|---|---|---|
| SmartSearch Analytics | Встроенные A/B-тесты, метрики поиска, отчёты | Включено в тариф Бизнес |
| Google Optimize | Разделение трафика, визуальные тесты | Бесплатно |
| Yandex Метрика | Веб-визор, карты кликов, сегменты | Бесплатно |
| Amplitude / Mixpanel | Глубокая аналитика поведения, воронки | От $0 (стартовый план) |
Типичные ошибки A/B-тестов поиска
- Слишком короткий тест: 2 дня — недостаточно. Нужен минимум 1 полный цикл (7 дней)
- Маленькая выборка: 100 сессий — нет статистической значимости. Минимум 1000
- Тестирование в праздники: Чёрная пятница не показательна для обычного поведения
- Несколько изменений сразу: Если поменяли поиск + дизайн + цены — не поймёте, что сработало
- Игнорирование мобильного: 60% трафика — мобильный. Тестируйте отдельно
🧪 Проведём A/B-тест вместе
SmartSearch включает встроенные A/B-тесты. Запустим тест на вашем трафике, измерим метрики и подготовим отчёт для руководства. Бесплатно на 14 дней.
Запустить A/B-тест →