В эпоху генеративного искусственного интеллекта пользователи все чаще получают готовый ответ, не зная, на каких источниках он основан. Это становится одним из ключевых вызовов для современного образования и науки. О том, как меняется парадигма образования, когда человек получает готовое знание, не зная его достоверность и происхождение, рассказали специалисты Герценовского университета на заседании Экспертного совета по науке и образованию при Межпарламентской Ассамблее государств — участников СНГ (МПА СНГ).
Директор фундаментальной библиотеки РГПУ им. А. И. Герцена Натела Квелидзе-Кузнецова и заместитель директора библиотеки Светлана Морозова представили доклад «Об академической достоверности и качестве научной информации в эпоху искусственного интеллекта». В центре их внимания оказался не столько искусственный интеллект, сколько изменение образовательной парадигмы и взаимодействия с пользователями, которое он влечет. Если раньше работа с информацией строилась по схеме «поиск — изучение и анализ — собственное исследование», то в эпоху генеративных моделей — «сначала готовый ответ». Пользователь получает связную, убедительную и логически завершенную информацию, зачастую даже не зная, на каких источниках она основана и каким образом была сформирована. По мнению герценовских экспертов, именно поэтому одной из современных проблем становится уже не доступ к информации, а способность устанавливать ее достоверность. Проблема доверия к отдельному источнику постепенно трансформируется в проблему доверия к самой возможности проверки знаний.
«Мы вступаем в период, когда главным вопросом становится уже не поиск информации, а понимание того, откуда она появилась. Если раньше пользователь видел источник и работал с ним, то сегодня он сначала получает ответ генеративной модели, а происхождение этого знания не всегда доступно ему в полной мере. В условиях «синтетической реальности» критически важными становятся навыки верификации и проверки достоверности информации как важнейшие составляющие современной цифровой грамотности», — сказала Натела Квелидзе-Кузнецова.
Заседание прошло под руководством ректора Санкт-Петербургского политехнического университета, председателя Санкт-Петербургского отделения Российской академии наук Андрея Рудского. Встречу открыл Генеральный секретарь Совета МПА СНГ Дмитрий Кобицкий. На мероприятии также выступили первый заместитель председателя Комитета по науке и высшей школе Санкт-Петербурга Ирина Ганус, генеральный директор компании «Думейт», заведующий лабораторией Института проблем управления им. В. А. Трапезникова РАН Юрий Чехович, ректор Минского городского института развития образования Татьяна Мороз, вице-президент издательского дома Elsevier Марат Фатхуллин и другие. Во встрече приняли участие представители парламентов, научного и бизнес-сообществ, образовательных учреждений и эксперты из Азербайджана, Армении, Беларуси, Казахстана, Кыргызстана, Таджикистана, Узбекистана.
Ранее специалисты РГПУ им. А. И. Герцена, подведомственного Минпросвещения России, выполнили разработки по созданию сервиса для распознавания фейковых научных ссылок. Кроме того, эксперты предложили сформировать единую базу сгенерированных научных фейков. По данным гереценовских ученых, даже после ретракции статьи с фейковыми ссылками, сгенерированными ИИ, продолжают распространяться через сайты журналов, поисковые системы и научные платформы. В результате библиографические фантомы и фейковые тексты исследований начинают воспроизводиться в новых работах, постепенно обретая признаки научной достоверности.
Текст и фото: фундаментальная библиотека РГПУ им. А. И. Герцена, МПА СНГ
