Не привязывайтесь к одной модели: держите ИИ-систему переносимой
Каждые несколько месяцев выходит модель, которая дешевле, быстрее или просто лучше справляется именно с вашими задачами. Но если вся ваша настройка живёт внутри интерфейса одного поставщика, хорошая новость превращается в переделку с нуля. Так быть не должно. Смысл в том, чтобы относиться к модели как к детали, которую можно выкрутить: знания, формулировки и канал общения с клиентом остаются вашими.
- Держите промпты в своих файлах. Папка в облаке с инструкциями для агента надёжнее, чем текст, когда-то вставленный в чужое окно чата и забытый там.
- Отделите знания от модели. Прайс, частые вопросы, правила работы — обычный текст или Markdown в вашем хранилище. Прочитать их сможет любой ассистент, а принадлежат они только вам.
- Пусть все обращения к ИИ идут через одну точку. Одна настройка, один ключ, один файл. Тогда смена поставщика — это правка конфигурации, а не проект.
- Сохраните свой набор из десяти вопросов. Перед переходом прогоните новую модель по тем же вопросам. Ответы те же, а счёт меньше — переходите. Ответы хуже — вы узнали об этом за десять минут.
- Владейте дверью, а не мозгом. Ваш Telegram-бот, чат на сайте, почта — всё это остаётся на месте. Меняется только то, что стоит за ними.
Мой бот для первичного разговора с клиентами работает на одном провайдере, при сбое переключается на второго, а если недоступны оба — на заранее написанный сценарий. Смена «мозга» — это одна переменная окружения. В этом и вся идея.