Выбор между Gemini, YandexGPT и DeepSeek обсуждают так, будто от него зависит качество консультанта. На практике он влияет заметно меньше, чем то, какие данные вы модели даёте, — но всё же влияет, и по причинам, о которых говорят реже, чем о качестве ответов.
Что на самом деле определяет качество ответа
Порядок важности для консультанта в интернет-магазине:
- Полнота данных. Заполненные характеристики в фиде и внятная база знаний.
- Правильный подбор данных под вопрос. Модель отвечает по тому, что ей передали; если передали не то, ответа не будет ни у какой модели.
- Ограничения на выдумывание. Архитектурные, а не в виде просьбы.
- Выбор модели.
Четвёртый пункт стоит четвёртым не для красоты. На типовых вопросах покупателей — характеристики, сравнение, условия доставки — современные модели дают сопоставимый результат. Разница проявляется на длинных рассуждениях, которых в консультации магазина почти нет.
Если консультант отвечает плохо, вероятность, что дело в модели, заметно ниже вероятности, что дело в данных.
На что смотреть при выборе
Доступность оплаты и работы из России
Практический вопрос, который перевешивает разницу в качестве. Модель, за которую нельзя заплатить или к которой нельзя обратиться напрямую, не подходит независимо от её достоинств.
Стоимость обращения
Считается не за диалог, а за объём переданного текста. Консультанту в каждом запросе передаются карточка товара, найденные позиции и фрагменты базы знаний — это заметный объём. При тысяче диалогов в месяц разница между провайдерами становится ощутимой.
Задержка ответа
Покупатель ждёт ответ в чате и видит задержку напрямую. Разница в секунду между провайдерами заметнее, чем разница в формулировках.
Условия обработки данных
Что провайдер делает с переданным текстом, используется ли он для обучения, можно ли это отключить. Для каталога и переписки с покупателями вопрос не праздный.
Ограничения на объём
Сколько текста можно передать за раз. Влияет на то, сколько фрагментов базы знаний и позиций каталога поместится в один запрос.
Что должно оставаться локальным
Независимо от выбора провайдера, часть работы разумно не отдавать наружу:
- поиск по каталогу — обращений много, они частые, и платить за каждое бессмысленно;
- подбор фрагментов базы знаний — то же самое;
- сам каталог — номенклатура и цены не обязаны покидать вашу инфраструктуру.
Модели передаётся уже найденное: конкретная карточка, конкретные фрагменты. Это и дешевле, и безопаснее, и быстрее.
Смену провайдера нужно закладывать заранее
Условия доступа, цены и правила меняются быстрее, чем хотелось бы. Система, привязанная к одному провайдеру на уровне кода, в момент изменения условий превращается в проект по переписыванию.
Правильно, когда провайдер — настройка: выбирается администратором, меняется без правки кода, а промпты и логика от него не зависят. Тогда смена занимает минуты, а не недели.
Как сравнить провайдеров у себя
Не по обзорам, а на своих данных:
- Возьмите двадцать реальных вопросов покупателей из переписки.
- Прогоните через каждого провайдера с одинаковыми переданными данными.
- Оцените по трём критериям: фактическая верность, отсутствие выдумок, длина и уместность формулировки.
- Замерьте задержку и посчитайте стоимость по объёму.
Четвёртый пункт часто оказывается решающим при примерно равном третьем.
Коротко
- Качество консультанта определяется данными, а не выбором модели; модель — четвёртый по важности фактор.
- Смотреть нужно на доступность оплаты, стоимость по объёму, задержку и условия обработки данных.
- Поиск по каталогу и подбор фрагментов базы разумно держать локально.
- Провайдер должен быть настройкой, а не частью кода: условия меняются часто.
- Сравнивать провайдеров нужно на своих вопросах и своих данных, а не по обзорам.