Предотвращение галлюцинаций с MCP: проверяйте перед записью
Обеспечьте точность в рабочих процессах MCP, проверяя данные перед их использованием. Это руководство по точности показывает, когда вызывать инструменты для проверки деталей задачи, как ссылаться на источники из вывода инструментов и как избежать выдуманных статусов, дат и другой галлюцинированной информации.
Что охватывает это руководство
Это руководство учит предотвращать галлюцинации в рабочих процессах MCP:
Ключевые темы
- Паттерны проверки: когда вызывать инструменты для проверки данных
- Методы цитирования: как ссылаться на источники из вывода инструментов
- Предотвращение галлюцинаций: избегайте выдуманных статусов, дат, ID
- Чек-лист ассистента: шаги для обеспечения точности
- Лучшие практики: паттерны, предотвращающие ошибки
Когда проверять детали задачи
Перед операциями записи
Всегда проверяйте детали задачи перед обновлением или созданием:
Безопасный паттерн обновления
"Перед обновлением задачи [ID задачи] сначала получи текущие детали задачи с помощью get_task. Покажи мне текущий статус, исполнителя и срок выполнения. Затем я скажу, что изменить."
Что делает ИИ:
- Вызывает
get_task, чтобы получить текущее состояние - Показывает фактические детали задачи (не предполагаемые)
- Использует проверенные данные для обновлений
- Предотвращает обновление неправильной задачи или использование неправильного статуса
Перед отчётностью
Проверяйте данные перед включением их в отчёты:
Паттерн точной отчётности
"Сгенерируй отчёт о статусе из моих задач Workify. Для каждой упомянутой задачи вызови get_task, чтобы проверить текущий статус и срок выполнения перед включением её в отчёт."
Что делает ИИ:
- Вызывает
list_tasks, чтобы получить список задач - Для ключевых задач вызывает
get_task, чтобы проверить детали - Использует проверенные данные в отчёте
- Ссылается на источник: "Согласно данным задачи, полученным в [время]"
Ссылки на источники из вывода инструментов
Всегда указывайте, откуда взялась информация:
Паттерн цитирования
"Покажи мои задачи со сроком на этой неделе. Для каждой задачи сошлись на источник, сказав 'Согласно данным задачи, полученным из Workify:' перед перечислением деталей."
Что делает ИИ:
- Вызывает
list_tasks, чтобы получить данные - Форматирует вывод со ссылками
- Показывает: "Согласно данным задачи Workify: [детали]"
- Делает источник понятным пользователю
Пример: отчёт со ссылками
Отчёт со ссылками
Отчёт о статусе (со ссылками):
Согласно данным задачи, полученным из Workify в 10:00:
- Задача "Реализовать аутентификацию" - Статус: in_progress (проверено через get_task)
- Задача "Рефакторинг API" - Статус: open (проверено через get_task)
Этот паттерн: делает источник понятным, показывает, что проверка состоялась
Как избежать выдуманной информации
Распространённые галлюцинации
⚠️ Чего следует избегать
- Выдуманные статусы: не предполагайте статус задачи — всегда запрашивайте его
- Придуманные даты: не выводите сроки — получайте их из данных задачи
- Неправильные ID: не угадывайте ID — всегда получайте список и выбирайте
- Предполагаемые исполнители: не предполагайте, кто назначен — проверяйте
- Выведенный прогресс: не угадывайте завершённость — проверяйте фактический статус
Паттерны предотвращения
Паттерн «всегда проверяй»
"При генерации отчёта о статусе используй только информацию из вызовов инструментов. Если у тебя нет данных из вызова инструмента, скажи 'Информация недоступна', а не угадывай."
Преимущества:
- Предотвращает выдумывание информации
- Заставляет вызывать инструменты для получения данных
- Делает отсутствие данных явным
Чек-лист ассистента
Чек-лист точности для ассистентов
- Проверяй перед записью: всегда вызывай get_task/get_project перед обновлением
- Ссылайся на источники: всегда указывай, откуда взялись данные (вывод вызова инструмента)
- Никаких предположений: никогда не предполагай статус, дату, исполнителя — всегда запрашивай
- Проверяй ID: всегда получай список элементов, чтобы найти правильные ID, не угадывай
- Проверяй временные метки: отмечай, когда были получены данные (могут устареть)
- Обрабатывай отсутствующие данные: говори «недоступно», а не выдумывай
- Перепроверяй критичную информацию: для важных операций проверяй дважды
Полные примеры
Пример 1: безопасное обновление статуса
Полный промпт безопасного обновления
"Я хочу обновить статус задачи [ID задачи] на 'in_progress'. Сначала вызови get_task, чтобы получить текущие детали задачи. Покажи мне: - Текущий статус (из вывода инструмента) - Название задачи (из вывода инструмента) - Название проекта (из вывода инструмента) Затем подтверди, что это правильная задача. Только после этого обнови статус. Не предполагай текущий статус — всегда получай его из инструмента."
Этот паттерн: Проверить → Показать → Подтвердить → Обновить
Пример 2: точный отчёт о статусе
Полный промпт точного отчёта
"Сгенерируй отчёт о статусе из моих задач Workify со сроком на этой неделе. Для каждой задачи в отчёте: 1. Вызови get_task, чтобы проверить текущий статус и срок выполнения 2. Сошлись на источник: 'Согласно данным задачи, полученным в [время]' 3. Включай только информацию из вызовов инструментов 4. Если каких-то данных нет, скажи 'Информация недоступна' Не предполагай и не выдумывай никаких деталей задачи."
Этот паттерн: Проверить каждую задачу → Сослаться на источники → Никаких предположений
Лучшие практики
Лучшие практики предотвращения галлюцинаций
- Всегда проверяй: вызывай инструменты, чтобы получить актуальные данные перед их использованием
- Ссылайся на источники: всегда указывай, откуда взялась информация
- Никаких предположений: никогда не предполагай статус, даты или другие детали
- Обрабатывай отсутствующие данные: явно указывай, когда данные недоступны
- Проверяй ID: всегда получай список элементов, чтобы найти правильные ID
- Перепроверяй критичное: для важных операций проверяй дважды
- Отмечай временные метки: указывай, когда были получены данные
Устранение неполадок
ИИ выдумывает информацию
Симптом: ИИ сообщает статусы или даты, которые не соответствуют реальности
Решение:
- Явно требуйте вызовов инструментов: "Вызови get_task для проверки"
- Запрещайте предположения: "Не предполагай, всегда запрашивай"
- Требуйте ссылок: "Ссылайся на источник для всей информации"
Устаревшие данные в отчётах
Симптом: отчёт показывает устаревшую информацию
Решение:
- Требуйте свежих данных: "Вызови get_task, чтобы получить текущий статус"
- Включайте временные метки: "Отметь, когда были получены данные"
- Проверяйте перед отчётностью: "Проверь каждую задачу перед включением"
Связанные ресурсы
Паттерны одобрения записи
Безопасные операции записи
Выбор ID
Найдите правильные ID
Отчёты о статусе
Рабочие процессы точной отчётности
Инструмент Get Task
Проверьте детали задачи
Предотвращайте галлюцинации в MCP
Используйте паттерны проверки и ссылки на источники для обеспечения точности