Четыре способа, которыми ошибается AI, — и дешёвые приёмы против каждого
Всё иногда ломается; AI ломается по паттернам. Выучите четыре — и перестанете удивляться.
- Галлюцинация — уверенно и неверно. Противоядие: для фактических ответов требуйте цитату из ваших документов и честное «не знаю», когда её нет.
- Устаревание — правильно в прошлом квартале, неверно сегодня. Противоядие: ставьте даты на базу знаний и пересматривайте её по календарю, а не «когда вспомним».
- Дрейф — сотый ответ небрежнее первого, потому что разговор затянулся. Противоядие: новая сессия на каждую задачу; длинные чаты — для людей.
- Соглашательство — модель подхватывает неверную посылку вашего вопроса. Противоядие: добавьте в стандартный промпт «Если моё допущение неверно, скажи об этом до ответа».
Ничего из этого не требует модели побольше. Требуется процесс — а он бесплатный.