Название мероприятия*
Email*
Контакты
ФИО*
Подразделение*

Эксперт объяснила, почему нейросети выдумывают факты и кто ответит за ошибки в курсовой

17 ноя 2026

2.jpg

Современные языковые модели способны уверенно ссылаться на несуществующие книги и цитировать выдуманных ученых. О том, как распознать «галлюцинации» искусственного интеллекта и правильно составить поисковый запрос, рассказала ассистент института информационных технологий и технологического образования РГПУ им. А. И. Герцена Татьяна Устюгова.

Эксперт отметила, что алгоритм не пытается намеренно обмануть пользователя. Программа воспринимает запрос, учитывает его вместе с предыдущим контекстом беседы и строит ответ из мелких фрагментов (токенов), просто подбирая наиболее вероятное продолжение фразы. Языковые модели заполняют пробелы в знаниях логичными, но искусственными связками — так рождаются ИИ-галлюцинации.

«Задача языковой модели — создать связный текст, а не проверить его достоверность. Поэтому название вымышленной статьи или фамилия несуществующего ученого часто оказываются рядом с реальными сведениями и звучат абсолютно убедительно», — объяснила Татьяна Устюгова.

Из-за уверенного тона и гладкости текста в ответе нейросети не всегда легко распознать подвох. Наличие гиперссылки также не гарантирует безопасность: она может никуда не вести. Чтобы не тратить на проверку сгенерированного материала больше времени, чем ушло бы на самостоятельное написание, эксперт советует в первую очередь проверить факты, от которых зависит главный вывод, а все цифры, даты, цитаты и ссылки найти в первоисточниках. Если источник не найден или не подтверждает утверждение, этот факт лучше убрать или обозначить как неподтвержденный. Такой подход не гарантирует полной безошибочности, но снижает риск использования недостоверных данных, способных разрушить ход исследования.

По словам Татьяны Устюговой, риск ошибок помогает снизить и правильная постановка задачи. Абстрактный запрос в духе «Расскажи все о Петре I» не задает ни аспект, ни глубину, ни период, ни нужный формат. Модель сама достраивает эти условия и в результате может дать общий ответ, который не подходит для учебной задачи. Однако, как показывает профильное исследование М. К. Слипенко 2026 года, влияние структуры промпта на точность сильно зависит от предметной области.

Отдельный этический вопрос: кто виноват, если студент сдал реферат с выдуманными ИИ фактами. Нейросеть может выдать неверный ответ, но именно учащийся принимает решение, использовать ли его. Эксперт напоминает: правила вузов различаются, и преподаватель имеет право разрешить, ограничить или полностью запретить применение искусственного интеллекта. Студентам необходимо следовать требованиям конкретного задания и не выдавать сырой, непроверенный текст за собственную исследовательскую работу.

«Важно четко разделять несовершенство технологии и ответственность студента за итоговый текст. Грамотный промпт действительно помогает яснее поставить задачу, но он не отменяет фактчекинг и не превращает нейросеть в безошибочную базу знаний», — подчеркнула Татьяна Устюгова.

По ее словам, разработчики постоянно совершенствуют алгоритмы, подключая чат-боты к поиску в интернете в реальном времени. Но предсказать, когда программы окончательно перестанут фантазировать, пока невозможно. «Оснований обещать полное исчезновение проблемы ИИ-галлюцинаций сегодня нет. Самый надежный подход для студента — использовать нейросеть исключительно как технического помощника, а ключевые источники перепроверять самостоятельно», — резюмировала эксперт.

Возврат к списку
Предложить новость
Название мероприятия*
Дата*
Сообщение*
ФИО*
Подразделение*
Контакты*
Прикрепить файл
Перетащите сюда файлы или нажмите для выбора
Максимальный размер загружаемого файла 35M в формате doc, docx, rtf, xls, xlsx, zip, rar, pdf, jpg, gif, bmp, png, jpeg, webp .
Максимальное количество файлов - 10 шт.
Рассказать о своём исследовании
Укажите данные для публикации сообщения о результатах научных исследований в научно-популярной форме
Название материала*
Ф.И.О. автора сообщения*
Информация об авторе
Ученая степень*
Ученое звание*
Контактная информация*
Структурное подразделение*
Должность*
Краткое сообщение
Прикрепите заполненную форму*
Перетащите сюда файлы или нажмите для выбора
Максимальный размер загружаемого файла 35M в формате doc, docx, rtf, xls, xlsx, zip, rar, pdf, jpg, gif, bmp, png, jpeg, webp .
Максимальное количество файлов - 10 шт.
Прикрепите 2-3 фотографии/иллюстрации
Перетащите сюда файлы или нажмите для выбора
Максимальный размер загружаемого файла 35M в формате jpg, gif, bmp, png, jpeg, webp, pdf.
Максимальное количество файлов - 10 шт.