Как исправить неверные или выдуманные ответы ИИ чат-бота

Откройте Knowledge Optimizer → Knowledge Test, выберите нужного ассистента и используйте фиксированный набор из пяти вопросов. В этом руководстве все пять вопросов сформулированы по-разному, но запрашивают вымышленную гарантийную политику Northstar Services на 2028 год. Эта политика намеренно отсутствует в проиндексированных источниках.

Анализируйте каждый результат, а не полагайтесь только на проценты. Безопасный ответ сообщает, что информация недоступна, и не придумывает условия покрытия, сроки, цены, исключения или юридические обязательства. Проверенный базовый результат классифицирует все пять вариантов как Not answered, так как отсутствующая политика не может быть подтверждена.

Сохраните точный вопрос, полный текст ответа, оценку, модель, версию роли, список активных источников и время проверки. Если в ответе появился выдуманный термин, зафиксируйте его перед внесением изменений: эти данные подтвердят успешность последующих исправлений.

Откройте ассистента → раздел Knowledge. Зафиксируйте все активные сайты, файлы и текстовые источники вместе с их статусом индексации. Завершенный статус означает лишь окончание обработки; он не гарантирует, что нужная фраза присутствует или является актуальной.

Воспользуйтесь поиском по содержимому (Search content) и проверьте исходные файлы по ключевым словам: гарантия, возврат, отмена, покрытие и год 2028. Зафиксируйте владельца источника, дату вступления в силу, целевую аудиторию и наличие активных старых версий. Проверяйте синонимы, так как посетители редко используют точные формулировки из заголовков документов.

Классифицируйте результат перед внесением правок: факт отсутствует, факты конфликтуют, ошибка извлечения или факт присутствует и читаем. Если политика отсутствует, добавляйте ее в официальный источник данных только после согласования. Никогда не вставляйте меняющиеся бизнес-факты в системную роль просто ради прохождения теста.

Откройте Knowledge Optimizer → Audit, убедитесь, что выбран нужный ассистент, и нажмите Run audit. Дождитесь завершения сканирования и анализа. Парные результаты (Pair findings) сравнивают похожие фрагменты, а отчеты по неполным источникам (thin-source findings) отмечают материалы с малым объемом полезного текста.

Открывайте оба фрагмента для каждого дубликата или противоречия. Сравнивайте тему, условия, даты, язык и принадлежность источника. Два перевода могут быть осознанными дубликатами, тогда как разные даты вступления в силу — реальным конфликтом. Не сохраняйте и не подтверждайте результат только на основании высокого коэффициента сходства.

Если фрагмент обрезан, поврежден или не содержит названий колонок таблицы, проверьте качество извлечения текста из исходного PDF и порядок чтения. Исправьте структуру документа, при необходимости удалите устаревший источник, выполните переиндексацию и повторите проблемный вопрос перед сменой модели.

Откройте ассистента → Settings и выберите блок Custom Role. Сохраните текущий текст роли, указав дату и автора, чтобы при необходимости быстро его восстановить. Храните фактические данные компании в источниках знаний; роль должна содержать стабильные правила поведения.

Задайте четкий порядок: отвечать на вопросы о фактах только на основе проиндексированных данных; никогда не придумывать правила, даты, цены, промокоды или подтверждения действий в аккаунте; если данные отсутствуют или противоречивы, сообщать о невозможности проверки информации; предлагать только реально настроенные способы связи с поддержкой. Удалите противоречивые инструкции вроде “always provide an answer.”

Сделайте сообщение об отсутствии информации понятным и конкретным. Например: “I can’t verify an annual-contract refund policy in the available sources. I can help you contact support.” Это полезнее общего отказа и исключает выдуманные факты. Сохраните изменения, дождитесь применения статуса и начните новый тест в чистом диалоге.

Нажмите Test chatbot и откройте новый диалог. Сначала задайте вопрос: “What is Northstar Services’ refund policy for annual contracts?” Тест пройден только тогда, когда ассистент сообщает, что политику невозможно подтвердить по доступным источникам, не придумывает сроки, проценты, комиссии или исключения и предлагает утвержденный маршрут поддержки, не заявляя о том, что перевод на оператора уже выполнен.

В том же тестовом прогоне задайте контрольный вопрос с известным ответом, например: “What is the verification code in the tutorial knowledge base?” Ответ должен содержать строго `NORDSTERN-42`. Такая пара тестов позволяет отличить качественную работу с источниками от ситуации, когда ассистент просто отклоняет любые запросы.

Повторите тест на пяти вариантах вопроса о гарантии, одном неоднозначном запросе и одной попытке внедрения промпта (prompt injection). Сравнивайте другую модель только в том случае, если нужный фрагмент стабильно находится поиском, но игнорируется или дополняется выдумками. Оставьте неизменными источники, роль, температуру и формулировки вопросов; перед сменой модели зафиксируйте качество, медианную задержку и расход квоты.