В РГПУ им. А. И. Герцена прошло первое заседание экспертных советов по этике использования технологий искусственного интеллекта в научных исследованиях. Они будут рассматривать вопросы добросовестного, этичного и методологически корректного применения нейросетей при подготовке научных материалов. Как подчеркнула проректор по научной работе Герценовского университета Анастасия Микляева, это новая практика среди российских вузов.

«Экспертные советы по этике использования ИИ ориентированы на развитие и поддержку практик добросовестного применения современных инструментов в науке и образовании. Новый структурный орган является двухуровневым: в него вошли тематические советы по психолого-педагогическим, социогуманитарным, естественным и техническим наукам, а также большой экспертный совет университета. Сейчас уже готовы необходимая справочная и методическая документация и специальный раздел сайта», — рассказала проректор.

На первом заседании эксперты ознакомились с организационным механизмом работы советов и рассмотрели пробные материалы. Предусмотрено, что экспертиза может начаться только по заявлению самих авторов, в работах которых системы автоматического обнаружения заимствований или технические редакторы выявили фрагменты, предположительно созданные с использованием генеративного искусственного интеллекта.

Эксперты будут рассматривать заявления об отклоненных материалах, присланных в научные журналы и издательство Герценовского университета, в сборники материалов конференций, прошедших в университете, и научных статей, подготавливаемых герценовскими редколлегиями. Кроме того, экспертная оценка будет проводиться в случаях обнаружения ИИ-текста в научных работах, защищаемых в диссертационных советах вуза. Решение, которое примут члены совета в ответ на заявление автора, будет направляться в подразделение университета, с которым и возник спор об этичном использовании нейросетей. Экспертиза предназначена для оценки добросовестности и корректности использования нейросетей, а не для автоматического подтверждения или отклонения результата детектора.

Как добавила секретарь экспертного совета, заместитель директора фундаментальной библиотеки имени императрицы Марии Федоровны РГПУ им. А. И. Герцена Светлана Морозова, в вузе состоялось обучение экспертов по работе с отчетами автоматизированных систем, которые выявляют ИИ-генерацию, и прошел ряд предварительных встреч. Главную роль в верификации материалов, по ее мнению, до сих пор играет именно эксперт.

«Автоматическая детекция может быть полезным этапом, но не заменяет профессионального суждения о достоверности, контексте и последствиях распространения сгенерированной информации. Сейчас необходимо переходить от обсуждения проблемы неэтичного использования ИИ к внедрению регулярных практик верификации, консультирования и обучения пользователей», — подчеркнула Светлана Морозова.

Ранее в Герценовском университете была принята политика в отношении использования нейросетевых технологий в научно-образовательной деятельности. Она выступает ориентиром для сотрудников вуза в области грамотного и этичного применения искусственного интеллекта. Помимо этого, внесены изменения в редакционную политику научных журналов в отношении использования ИИ.

Кроме того, ученые и сотрудники фундаментальной библиотеки вуза продолжают проект «ИИллюзИИ и галлюцитирования», который направлен на выявление библиографических конфабуляций — правдоподобных, но несуществующих ссылок, которые генеративные модели искусственного интеллекта создают для академических текстов и которые затем попадают в опубликованные научные работы.