Современные языковые модели способны уверенно ссылаться на несуществующие книги и цитировать выдуманных ученых. О том, как распознать «галлюцинации» искусственного интеллекта и правильно составить поисковый запрос, рассказала ассистент института информационных технологий и технологического образования РГПУ им. А. И. Герцена Татьяна Устюгова.
Эксперт отметила, что алгоритм не пытается намеренно обмануть пользователя. Программа воспринимает запрос, учитывает его вместе с предыдущим контекстом беседы и строит ответ из мелких фрагментов (токенов), просто подбирая наиболее вероятное продолжение фразы. Языковые модели заполняют пробелы в знаниях логичными, но искусственными связками — так рождаются ИИ-галлюцинации.
«Задача языковой модели — создать связный текст, а не проверить его достоверность. Поэтому название вымышленной статьи или фамилия несуществующего ученого часто оказываются рядом с реальными сведениями и звучат абсолютно убедительно», — объяснила Татьяна Устюгова.
Из-за уверенного тона и гладкости текста в ответе нейросети не всегда легко распознать подвох. Наличие гиперссылки также не гарантирует безопасность: она может никуда не вести. Чтобы не тратить на проверку сгенерированного материала больше времени, чем ушло бы на самостоятельное написание, эксперт советует в первую очередь проверить факты, от которых зависит главный вывод, а все цифры, даты, цитаты и ссылки найти в первоисточниках. Если источник не найден или не подтверждает утверждение, этот факт лучше убрать или обозначить как неподтвержденный. Такой подход не гарантирует полной безошибочности, но снижает риск использования недостоверных данных, способных разрушить ход исследования.
По словам Татьяны Устюговой, риск ошибок помогает снизить и правильная постановка задачи. Абстрактный запрос в духе «Расскажи все о Петре I» не задает ни аспект, ни глубину, ни период, ни нужный формат. Модель сама достраивает эти условия и в результате может дать общий ответ, который не подходит для учебной задачи. Однако, как показывает профильное исследование М. К. Слипенко 2026 года, влияние структуры промпта на точность сильно зависит от предметной области.
Отдельный этический вопрос: кто виноват, если студент сдал реферат с выдуманными ИИ фактами. Нейросеть может выдать неверный ответ, но именно учащийся принимает решение, использовать ли его. Эксперт напоминает: правила вузов различаются, и преподаватель имеет право разрешить, ограничить или полностью запретить применение искусственного интеллекта. Студентам необходимо следовать требованиям конкретного задания и не выдавать сырой, непроверенный текст за собственную исследовательскую работу.
«Важно четко разделять несовершенство технологии и ответственность студента за итоговый текст. Грамотный промпт действительно помогает яснее поставить задачу, но он не отменяет фактчекинг и не превращает нейросеть в безошибочную базу знаний», — подчеркнула Татьяна Устюгова.
По ее словам, разработчики постоянно совершенствуют алгоритмы, подключая чат-боты к поиску в интернете в реальном времени. Но предсказать, когда программы окончательно перестанут фантазировать, пока невозможно. «Оснований обещать полное исчезновение проблемы ИИ-галлюцинаций сегодня нет. Самый надежный подход для студента — использовать нейросеть исключительно как технического помощника, а ключевые источники перепроверять самостоятельно», — резюмировала эксперт.