Поставьте потолок на счёт за ИИ, пока он вас не удивил
Счёт за ИИ обычно взлетает не потому, что модель дорогая, а потому что агента ничто не останавливает: он зацикливается, перечитывает огромные файлы или в три часа ночи ведёт беседу со спам-ботом. Решение — не урезать ИИ, а заранее решить, сколько может стоить месяц, и поручить системе следить за этим.
- Установите жёсткий месячный лимит в кабинете провайдера. Он есть почти у всех платформ. Берите сумму, которую не жалко, если она будет достигнута, а не оптимистичный средний расход.
- Включите уведомления на 50% и 80%. Письмо в середине месяца — предупреждение, сюрприз в конце — урок.
- Ограничьте каждый диалог. Задайте предел по числу реплик или объёму текста. Живому клиенту редко нужно больше десяти обменов, зациклившемуся агенту — тысячи.
- Отдайте рутину более дешёвой модели. Сортировка, теги и короткие ответы почти никогда не требуют флагмана. Дорогую модель оставьте для сложных случаев.
- Раз в неделю смотрите стоимость результата. Не «сколько потратили», а «во что обошлась одна обработанная заявка или одна запись на звонок». Эта цифра подскажет, масштабировать или подтягивать гайки.
Десять минут настройки превращают ИИ из открытого счёта в понятную строку бюджета — именно так я настраиваю каждого агента для клиентов до запуска.