Чтобы ответ нейросети можно было проверить, просите не «расскажи», а «укажи источник и дату для каждого факта». Ниже — формулировки запроса, шаблон промпта и чек-лист, по которому вы сами убедитесь, что данные не выдуманы.
Почему нейросеть выдумывает факты и что с этим делать
Языковая модель не хранит базу фактов и не сверяется с ней в момент ответа. Она предсказывает, какое слово вероятнее всего идёт следующим, опираясь на закономерности из обучающих текстов. Поэтому гладкое и уверенное по форме предложение может оказаться неверным по содержанию: модель не различает «так принято писать» и «так есть на самом деле».
Такие ошибки называют галлюцинациями. Они появляются особенно охотно там, где нужны точные детали: числа, даты, имена, названия исследований, цитаты. Модель достраивает правдоподобный фрагмент, потому что он хорошо сочетается с контекстом, а не потому что он подтверждён.
Повлиять на это можно через сам запрос. Если попросить просто «расскажи», у модели нет причины отделять известное от придуманного. Если задать рамку — откуда взят факт, когда он опубликован, что делать при отсутствии данных — она вынуждена обозначать опору или признавать пробел. Полезно также разрешить ответ «не знаю»: без этого модель чаще выбирает домысел, чем отказ.
Второй рычаг — сузить тему. Чем конкретнее вопрос и чем меньше в нём допущений, тем меньше поводов для достраивания. Размытая формулировка даёт модели свободу заполнять пустоты.
Модель не обязана быть правдивой — она обязана быть похожей на правду, и проверяемость создаётся формулировкой запроса, а не доверием к тону ответа.
Пять элементов запроса, которые делают ответ проверяемым
Проверяемость ответа закладывается ещё на этапе формулировки запроса — до того, как модель начнёт писать. Пять элементов ниже превращают расплывчатое «расскажи» в задание с чёткими границами, по которым потом можно сверить результат.
- Роль. Укажите, от чьего лица отвечать: аналитик, редактор, методист. Роль задаёт словарь и глубину, но сама по себе не гарантирует точность — она лишь сужает круг тем, по которым модель будет отвечать.
- Задача. Опишите одно конкретное действие: «перечисли», «сравни», «объясни механизм». Чем уже формулировка, тем меньше поводов уходить в общие рассуждения.
- Формат. Задайте структуру заранее: список пунктов, поля с подписями, порядок разделов. Фиксированный формат упрощает сверку — видно, чего в ответе не хватает.
- Требование к источникам. Попросите для каждого утверждения указывать, откуда взяты данные: название документа, автора, дату. Если источник не указан, факт помечается как непроверенный.
- Ограничения. Заранее оговорите, чего делать нельзя: додумывать цифры, ссылаться на источники без названия, объединять факты и мнения. Отдельно укажите, что при нехватке данных нужно прямо об этом сообщить.
Эти элементы работают вместе: роль и задача задают направление, формат и источники делают ответ сверяемым, ограничения отсекают догадки. Пропуск любого пункта снижает шансы получить то, что можно быстро проверить.
Дальше останется собрать их в единый текст запроса — об этом в следующем разделе.
Готовый шаблон промпта: скопируйте и подставьте свою тему
Скопируйте шаблон целиком и замените всё, что в квадратных скобках, на своё. Остальной текст трогать не нужно — он и задаёт формат проверяемого ответа.
Тема: [тема запроса, например: рынок электрогрузовиков в России]
Что нужно: [конкретный результат, например: 5 ключевых фактов о текущем состоянии]
Для каждого факта укажи:
— формулировку факта;
— источник (название документа, организации или публикации);
— дату публикации источника;
— где именно в источнике это сказано (раздел, страница).
Если по какому-то пункту источника нет — напиши «источник не найден» и не заполняй его догадкой.
В конце перечисли, какие утверждения ты не смог подтвердить.Пример заполнения для узкой задачи:
Тема: субсидии на покупку электромобилей в Германии
Что нужно: условия программы и даты её действия
Для каждого факта укажи:
— формулировку факта;
— источник (название документа, организации или публикации);
— дату публикации источника;
— где именно в источнике это сказано (раздел, страница).
Если по какому-то пункту источника нет — напиши «источник не найден» и не заполняй его догадкой.
В конце перечисли, какие утверждения ты не смог подтвердить.Чем уже тема и чем конкретнее блок «Что нужно», тем меньше шансов, что модель начнёт добирать объём общими словами. Если после ответа список неподтверждённых пунктов оказался длинным, сузьте тему ещё на шаг и повторите запрос.
Шаблон удобно держать под рукой и менять только первые две строки: остальное задаёт структуру, по которой ответ можно сверить с источниками без перечитывания всего текста.
Формулировки, которые повышают точность: что просить и чего избегать
Точность ответа зависит не столько от модели, сколько от глаголов и уточнений в запросе. Формулировки вроде «расскажи» или «что известно» оставляют нейросети свободу пересказывать общие места. Запрос с указанием формата и границ («перечисли», «сравни по двум параметрам», «для каждого утверждения укажи источник и год») заставляет модель опираться на конкретику, а не на размытые обобщения.
Слова-маркеры помогают заранее отсечь расплывчатые ответы. Просьба назвать дату, автора или организацию вынуждает модель либо привести проверяемые данные, либо честно признать пробел. Напротив, оценочные прилагательные и просьбы «подробно объяснить» часто приводят к пространным рассуждениям без опоры на факты.
| Неудачная формулировка | Что провоцирует | Удачная замена |
|---|---|---|
| «Расскажи про…» | Общие фразы, пересказ без деталей | «Перечисли три ключевых факта о… с указанием источника» |
| «Дай подробный ответ» | Многословность в ущерб конкретике | «Ответь тремя пунктами, каждый с датой или цифрой» |
| «Что ты думаешь о…» | Оценочные суждения без опоры | «Приведи аргументы за и против, укажи, откуда они взяты» |
| «Приведи примеры» | Выдуманные кейсы | «Приведи примеры из источников, которые можешь назвать» |
| «Объясни простыми словами» | Упрощения с потерей точности | «Объясни коротко, но сохрани названия и даты» |
Отдельно стоит избегать просьб «придумать» или «предложить варианты» там, где нужны факты: такие глаголы прямо разрешают модели фантазировать. Если ответ всё же содержит утверждение без источника, его лучше перепроверить отдельным запросом — «уточни, откуда эта цифра».
Чем конкретнее ограничения в запросе, тем меньше в ответе общих слов и тем проще его сверить с первоисточником.
Как читать ответ со ссылками: разбираем пример
Возьмём типичный запрос про сроки хранения персональных данных и сравним два ответа. Хороший начинается с конкретики: «Согласно ст. 5 ч. 7 Федерального закона № 152-ФЗ, хранение данных дольше, чем требует цель обработки, не допускается». Дальше идёт уточнение, что срок определяется оператором и фиксируется в политике обработки, а в конце — ссылка на текст закона и дата его последней редакции. Такой ответ можно открыть и сверить за минуту.
Тревожные признаки видны уже по формулировкам. Если нейросеть пишет «по данным исследований» без названия и года, ссылается на документ, которого нет в открытом доступе, или уверенно называет номер статьи, не приводя цитаты, — проверять нечего. Отдельно настораживает, когда источники перечислены списком в конце, но ни один не привязан к конкретному утверждению в тексте.
Обращайте внимание на то, как оформлены сами ссылки:
- у каждого факта свой источник, а не общий список на весь ответ
- указан тип документа: закон, регламент, статья, официальная страница
- есть дата публикации или редакции, а не только год
- название источника можно найти поиском и открыть первоисточник
- формулировки в ответе близки к тексту источника, а не пересказывают его вольно.
Если хотя бы два пункта не выполняются, ответ стоит перепроверить целиком, а не отдельные фрагменты. Нейросеть могла верно передать суть, но перепутать реквизиты документа — и тогда доверять остальному рано.
Чек-лист проверки ответа за две минуты
Проверка начинается с того, что вы откладываете текст в сторону и смотрите на него как на чужую работу. Порядок действий не случайный: сначала отсеиваются явные выдумки, потом проверяется то, что требует времени.
- Сверьте каждый факт с указанным источником — откройте ссылку и убедитесь, что цифра или утверждение там действительно есть.
- Проверьте дату: свежие данные могли устареть, а ссылка на старую публикацию часто выдаёт себя за актуальную.
- Найдите в ответе числа, имена и названия — именно они чаще всего оказываются неточными.
- Сравните два-три независимых источника по ключевому утверждению.
- Отметьте места без ссылок: если факт ничем не подкреплён, считайте его непроверенным.
Быстрый взгляд на структуру ответа тоже многое говорит о его качестве. Признаки ниже помогают понять, стоит ли тратить время на детальную сверку.
| Признак | Надёжный ответ | Ненадёжный ответ |
|---|---|---|
| Источники | Ссылки с датами | Общие слова «по данным исследований» |
| Числа | С указанием периода и методики | Круглые цифры без контекста |
| Оговорки | Есть границы применимости | Категоричные утверждения |
| Детали | Проверяемые названия и даты | Размытые формулировки |
Если ответ проходит по этим пунктам, его можно использовать. Отсутствие ссылки — повод перепроверить факт, а не доверять ему.
Что делать, если источников нет или они не открываются
Если модель отвечает общими словами и не приводит ни одной ссылки, не стоит сразу считать результат бесполезным. Часто проблема в самой формулировке: запрос просит рассуждение, а не проверяемые данные. Переформулируйте задачу так, чтобы ответ можно было сверить с чем-то внешним.
- Попросите назвать конкретные документы, отчёты или публикации, а не «источники в целом».
- Сузьте тему до одного факта или узкого вопроса — на широкий запрос модель отвечает общими тезисами.
- Попросите указать, какие утверждения она не может подтвердить, и отделить их от остальных.
- Смените угол: вместо «что известно о X» спросите «какие данные нужны, чтобы проверить утверждение о X».
- Разбейте сложный вопрос на части и проверяйте их по отдельности.
Бывает и так, что ссылки есть, но открыть их нельзя: страница удалена, доступ закрыт, адрес ведёт на общую страницу сайта. В этом случае ищите упомянутый материал по названию или автору в поисковике. Если найти не удаётся, считайте факт неподтверждённым, каким бы правдоподобным он ни выглядел.
Ручная проверка нужна, когда речь идёт о числах, датах, именах, юридических нормах и медицинских рекомендациях. Здесь ошибка стоит дорого, а модель может уверенно назвать несуществующий документ. Для общих объяснений и черновиков достаточно беглого просмотра, для решений с последствиями — сверка с первоисточником.
Полезный приём — попросить модель честно обозначить границы: какие части ответа опираются на конкретные данные, а какие являются её обобщением. Так вы сразу видите, что проверять в первую очередь, а что воспринимать как черновик.
Частые вопросы
Можно ли заставить нейросеть всегда указывать источники?
Полностью гарантировать нельзя: модель может не иметь доступа к свежим данным или ошибаться в ссылках. Но если явно требовать источник и дату для каждого факта в промпте, доля ответов со ссылками заметно растёт.
Что делать, если нейросеть придумала ссылку?
Откройте ссылку и проверьте, есть ли там указанная информация. Если страницы нет или данных нет — считайте факт неподтверждённым и перепроверьте в первоисточнике вручную.
Подходит ли этот подход для любых тем?
Для фактических вопросов — да: даты, цифры, определения, события. Для творческих задач и субъективных оценок проверять нечего, там достаточно попросить помечать предположения.
Нужно ли указывать в запросе конкретные сайты для поиска?
Если у вас есть доверенные источники — да, перечислите их. Это сужает круг и снижает риск, что модель возьмёт данные с сомнительного сайта.
Сколько времени занимает проверка ответа по чек-листу?
Обычно 2–3 минуты на ответ среднего размера: открыть 2–3 ссылки, сверить дату и формулировку. Если источников больше десяти, проверяйте выборочно самые важные утверждения.