Надёжность и ненадёжность нейросетей: граница между инструментом и экспертом

Искусственный интеллект стал повседневным инструментом, но генеративные модели способны выдавать убедительные, но ложные факты, воспроизводить идеологическую однобокость и подменять историческую правду. В статье Нины Вячеславовны Крестиненко анализируется влияние ИИ на гуманитарные дисциплины.

Философы видят в ИИ продолжение спора о характере знания и разума. Тьюринг и Серль задавались вопросом, может ли машина мыслить. Н. Хомский трактует ИИ как инструмент, лишённый подлинного понимания, демонстрирующий «лингвистическую некомпетентность». Напротив, Б. Латур предлагал рассматривать науку как сеть акторов, где нейросеть становится участником дискурса. М.Д. Маляревич развивает эту идею: ИИ — «встроенный элемент» научной деятельности, который при правильной методологии служит инструментом, а не угрозой авторству.

Машинный перевод передаёт смысл ближе к живому языку. В образовании ИИ персонализирует обучение и автоматизирует рутину, снижая нагрузку на преподавателей, но требует экспертной проверки. В промышленности ИИ-модули снижают брак и повышают эффективность. В гуманитарных исследованиях нейросети обрабатывают корпуса текстов, анализируют стилистику, распознают рукописи и архивы — но лишь как вспомогательный инструмент под контролем эксперта.

Главный вопрос – достоверность контента. Нейросети, обученные на тенденциозных данных, могут искажать исторические события, что ведёт к инструментальной фальсификации памяти. Другая проблема – идеологическая зависимость: модели отражают культурные массивы, на которых обучены, создавая риск навязывания чуждых смыслов и «мировоззренческой зависимости». Возникают вопросы ответственности за ошибки, проверки источников, сохранения авторства. Автоматически сгенерированные материалы могут содержать «галлюцинации» – убедительные, но ложные факты. Ключевые риски: недостоверность, идеологическая однобокость, фальсификация истории и потеря экспертной позиции.

В.В. Путин на съезде РГО 23 октября 2025 года подчеркнул необходимость создания «суверенных моделей искусственного интеллекта», основанных на российских культурных и исторических ценностях: «Только опираясь на нашу культуру, историю, языковое богатство, традиции, традиционные ценности, мы сможем создать именно суверенные модели искусственного интеллекта, а не копировать чужие решения... Иначе это приводит к утрате суверенитета». Для гуманитарных наук это означает согласование ИИ-систем с национальной методологией и стандартами критической проверки.

ИИ в гуманитаристике должен интегрироваться под контролем профессионалов. Нейросеть – один из акторов научного процесса, требующий человеческого надзора. Любые ИИ-приложения должны проходить экспертизу профессионального сообщества, а результаты – обязательную экспертную проверку. Необходимы процедуры верификации и аудита моделей: протоколы прозрачности, учёт происхождения данных, аудиторские следы. Практика «человека в петле» должна стать обязательной. Следующий шаг – институционализация надзора: междисциплинарные экспертные комиссии и сертификационные программы с участием историков, филологов, философов науки, специалистов по этике и IT-аудиту. Необходимо законодательное усиление мер по защите исторической правды: формирование «суверенных» корпусов данных, строгие требования к сохранности архивов и санкции за манипуляции с историческим содержанием.

ИИ в гуманитарных науках применим и полезен, но только как инструмент под контролем профессионального сообщества. Сочетание технических возможностей и экспертной ответственности позволит сохранить историческую правду, культурную целостность и научную добросовестность. Развитие ИИ должно опираться на три позиции: строгий профессиональный контроль и экспертиза; системная институциональная поддержка (сертификация, междисциплинарные комиссии, программы цифровой грамотности); государственная стратегия по созданию суверенных, национально ориентированных корпусов данных и стандартов. Только сочетание ответственной науки, экспертного надзора и государственной политики даст возможность использовать мощь ИИ во благо общества, не допуская искажений памяти Отечества.

Ссылка на оригинальное исследование. Крестиненко Н.В. Надёжность и ненадёжность нейросетей. Верификация лжи и правды в гуманитарной области знания // Онтология и теория познания. 2026. № 37. С. 8–14. DOI: 10.25991/3033-604X.2026.37.83.001.

Текст: Шерстобитова Алина