Этические правила использования ИИ в научных публикациях

Искусственный интеллект быстро становится частью научной работы. Нейросети помогают искать литературу, переводить тексты, анализировать документы, обрабатывать данные, редактировать рукописи и готовить отдельные фрагменты публикаций. При этом вместе с новыми возможностями появляются и новые этические вопросы.

Можно ли считать нейросеть автором статьи? Нужно ли сообщать редакции об использовании ИИ? Кто отвечает за ошибку, допущенную нейросетью? Можно ли загружать в ChatGPT результаты еще не опубликованного исследования? Допустимо ли использовать ИИ для написания обзора литературы?

Единого универсального ответа на все эти вопросы пока нет. Однако уже сейчас можно сформулировать основные правила ответственного использования искусственного интеллекта в научных публикациях.

ИИ становится частью научной работы

Использование искусственного интеллекта в науке уже не является экспериментом отдельных энтузиастов. Минобрнауки России отмечает, что ИИ и машинное обучение становятся частью научного метода и меняют организацию исследований в целом ряде дисциплин. Одновременно министерство указывает на необходимость решения вопросов авторства и достоверности информации. https://minobrnauki.gov.ru/press-center/news/novosti-ministerstva/98626/

Скачать этические правила использования ИИ в публикациях

Оставьте контакты, и мы вышлем материал на указанный email. Файл доступен в формате PDF.

В научных публикациях ИИ может использоваться на самых разных этапах — от поиска источников до языкового редактирования готовой рукописи. Но возможность выполнить определенную операцию еще не означает, что ее следует полностью передавать нейросети.

Главный принцип заключается в том, что искусственный интеллект должен помогать исследователю, а не подменять его научную работу и ответственность.

Что считается этичным использованием ИИ

Само по себе использование ChatGPT или другой нейросети при подготовке статьи не является нарушением научной этики. Многое зависит от характера задачи. Относительно безопасными считаются такие варианты, как:

исправление грамматических ошибок;

стилистическое редактирование;

перевод текста;

Бесплатная консультация

Проконсультироваться бесплатно

Подскажем по публикации в журналах ВАК, требованиям к статье, срокам и редакционной подготовке материала.

сокращение материала;

подготовка структуры статьи;

формулирование поисковых запросов;

подбор ключевых слов;

предварительная классификация литературы;

помощь в оформлении таблиц;

поиск логических повторов и неясных формулировок.

В этих случаях исследователь остается источником научного содержания, а ИИ выполняет вспомогательную функцию. Гораздо сложнее ситуация, когда нейросети поручают создание научной аргументации, интерпретацию результатов или генерацию фактов.

Правило № 1. Автором должен оставаться человек

Нейросеть нельзя рассматривать как обычного соавтора научной статьи. Причина очевидна: ИИ не способен нести ответственность за содержание публикации, объяснять свои решения редактору или отвечать на вопросы рецензентов. Кроме того, автор научной статьи должен понимать и контролировать содержание работы.

В российском законодательстве автором произведения признается человек, создавший его своим творческим трудом. Вопрос правового статуса произведений, созданных с помощью ИИ, пока остается сложным, однако сама нейросеть не может выступать полноценным автором в человеческом смысле. https://rg.ru/2024/05/03/reg-cfo/pochemu-zakon-ne-priznaet-avtorstva-iskusstvennogo-intellekta.html

Поэтому включать ChatGPT в список авторов научной статьи вместо человека или наравне с ним не следует.

Правило № 2. Автор отвечает за весь текст

Если ученый использовал ИИ для подготовки статьи, ответственность за итоговый текст все равно остается на нем. Это означает, что автор должен проверить:

факты;

цифры;

статистику;

цитаты;

ссылки;

библиографию;

научные термины;

описание методов;

результаты;

выводы.

Особенно опасно предполагать, что нейросеть автоматически проверила информацию перед тем, как включить ее в текст. Даже если ChatGPT пишет уверенно и профессионально, это не является гарантией достоверности.

Правило № 3. Нельзя придумывать результаты исследования

Самое очевидное нарушение научной этики — использование ИИ для создания несуществующих результатов. Нельзя просить нейросеть:

«Сгенерируй результаты эксперимента».

Или:

«Придумай реалистичные значения, если часть данных отсутствует».

Даже если полученные цифры выглядят правдоподобно, они не становятся научными данными. Нельзя также использовать ИИ для создания фиктивных участников исследования, экспериментов, наблюдений или статистических показателей. Научная публикация должна отражать результаты реально проведенного исследования.

Правило № 4. Нельзя скрывать вымышленные источники

Одна из наиболее распространенных проблем генеративного ИИ — создание несуществующих или искаженных библиографических ссылок.

Нейросеть может указать реального автора и реальное название журнала, но придумать несуществующую статью. Возможны и более сложные ошибки: неправильный год публикации, перепутанный DOI, неверное название работы или приписывание статье выводов, которых в ней нет.

Поэтому список литературы, созданный нейросетью, нельзя просто копировать в научную статью. Каждый источник необходимо найти и проверить самостоятельно. Это соответствует более общему принципу научной этики: публикация должна содержать достоверную информацию и проверяемые источники.

Правило № 5. Нужно проверять все факты, созданные ИИ

Если нейросеть написала:

«Исследование показало увеличение эффективности метода на 37%»,

автор должен установить, откуда взялась эта цифра.

Если источник существует, нужно проверить, действительно ли исследователи получили именно такой результат.Если подтверждения нет, утверждение следует удалить или заменить на корректное.

Особенно внимательно необходимо проверять:

проценты;

даты;

статистические показатели;

численность выборки;

фамилии исследователей;

названия организаций;

результаты экспериментов;

сведения о законодательстве;

цитаты.

Правило № 6. Нельзя выдавать текст ИИ за полностью самостоятельную работу

Если нейросеть написала значительную часть статьи, возникает вопрос о степени самостоятельности автора.

Особенно актуально это для аспирантов, студентов и молодых ученых.

Например, если исследователь самостоятельно провел эксперимент, собрал данные и написал основные выводы, а затем использовал ChatGPT для языкового редактирования, ситуация принципиально отличается от случая, когда нейросеть создала практически всю статью, а человек только внес небольшие изменения.

Поэтому важно понимать границу между редактированием научного текста и передачей ИИ самой научной работы.

С 2025 года в России действует ГОСТ Р 71657-2024, посвященный использованию технологий искусственного интеллекта при создании научных публикаций. В материалах о стандарте отдельно отмечается, что ИИ может использоваться для поиска, хранения и обработки информации, однако написание научных статей остается за учеными. https://rg.ru/2024/12/11/na-sluzhbe-u-uchenyh.html

Правило № 7. Нужно учитывать требования конкретного журнала

У разных научных изданий могут быть собственные правила использования генеративного ИИ. Одни журналы разрешают применение нейросетей для языкового редактирования, но требуют сообщать об этом редакции. Другие устанавливают более жесткие ограничения на генерацию текста.

Поэтому перед отправкой статьи необходимо внимательно изучить раздел «Для авторов», редакционную политику и требования к публикациям. Если журнал требует раскрывать использование ИИ, это правило необходимо соблюдать. Нельзя исходить из принципа: «Если редакция не заметит, сообщать необязательно».

Правило № 8. Использование ИИ желательно фиксировать

Если нейросеть сыграла существенную роль в подготовке рукописи, полезно сохранить информацию о том, как именно она использовалась.

Например:

название системы;

версию или дату использования;

характер выполненной задачи;

какие материалы передавались для обработки;

насколько существенно ИИ изменил текст.

Это особенно важно при подготовке крупных научных работ. Такой журнал использования ИИ поможет автору при необходимости объяснить редакции, какие операции выполняла нейросеть.

Правило № 9. Нельзя загружать в публичную нейросеть конфиденциальные данные

Это один из наиболее важных аспектов, о котором исследователи иногда забывают.

Предположим, ученый проводит исследование и уже получил результаты, но статья еще не опубликована. Если он загружает в сторонний ИИ полный массив данных, рукопись или конфиденциальные документы, необходимо понимать, как конкретный сервис обрабатывает эти сведения.

Особенно осторожно следует обращаться с:

персональными данными участников исследования;

медицинской информацией;

неопубликованными результатами;

материалами, содержащими коммерческую тайну;

закрытой информацией научной организации;

материалами рецензируемой статьи;

данными, переданными по договору конфиденциальности.

Перед использованием ИИ необходимо ознакомиться с правилами обработки данных конкретного сервиса и внутренними требованиями организации.

Правило № 10. Нельзя передавать ИИ персональные данные участников исследования

Для научных публикаций это особенно важно в медицине, психологии, социологии и других областях, где исследователь работает с людьми.

Не следует загружать в публичный чат:

фамилии участников;

номера медицинских карт;

адреса;

телефоны;

электронную почту;

фотографии;

уникальные идентификаторы;

иные сведения, позволяющие установить личность человека.

Если анализ данных с помощью ИИ действительно необходим, информация должна быть предварительно обезличена в соответствии с требованиями конкретного исследования и применимого законодательства.

Почему этические правила становятся особенно важными

Распространение ИИ происходит одновременно с ростом объема научной информации. Нейросети позволяют создавать тексты значительно быстрее, но это не означает автоматического повышения их качества.

Минобрнауки России и РАН уже работают над вопросами научной этики, в том числе над механизмами противодействия недостоверным и низкокачественным публикациям. В 2025 году министерство и Академия наук продолжили работу по проверкам научной деятельности и выявлению типовых нарушений. https://minobrnauki.gov.ru/press-center/news/nauka-i-obrazovanie/99339/

ИИ в этой ситуации может стать как полезным инструментом, так и источником новых рисков. Если использовать его без контроля, скорость производства научных текстов будет расти быстрее, чем возможности их проверки.

Как составить собственный кодекс использования ИИ

Научной организации, лаборатории или редакции полезно заранее определить внутренние правила работы с нейросетями. Например, можно установить следующие требования:

Автор несет полную ответственность за содержание публикации.

ИИ не указывается в качестве автора.

Все факты и источники, предложенные ИИ, проверяются человеком.

Вымышленные или непроверенные ссылки запрещены.

Результаты исследования нельзя генерировать искусственно.

Персональные и конфиденциальные данные нельзя загружать в публичные ИИ-сервисы.

Существенное использование ИИ раскрывается в соответствии с правилами журнала.

Научные выводы должны быть сформулированы и проверены исследователем.

Требования конкретного журнала имеют приоритет при подготовке рукописи.

При сомнениях необходимо выбирать более прозрачный вариант использования ИИ.

Такой подход позволяет не запрещать технологию, а встроить ее в существующие нормы научной добросовестности.

Что написать в статье об использовании ИИ

Если журнал требует раскрытия факта использования нейросети, формулировка должна быть конкретной.

Например:

«При подготовке рукописи использовалась система генеративного искусственного интеллекта для языкового редактирования отдельных фрагментов текста. Все научные утверждения, данные, источники и выводы проверены авторами».

Если ИИ использовался для перевода, можно указать это отдельно.

Если нейросеть помогала анализировать большие массивы информации, необходимо описать соответствующую задачу точнее.

Главное — не создавать впечатление, что ИИ самостоятельно провел исследование, если он выполнял только вспомогательные функции.

Главный принцип — прозрачность

Самое надежное правило использования ИИ в научной публикации можно сформулировать одним словом — прозрачность. Автор должен понимать, где именно использовалась нейросеть, какие функции она выполняла и какие части результата были проверены человеком. Если ИИ помог исправить несколько предложений, это одно. Если он подготовил черновик раздела, ситуация другая.

Если нейросеть участвовала в обработке данных или анализе большого массива документов, это уже существенная часть исследовательского процесса, которую необходимо описывать особенно внимательно. Прозрачность позволяет редактору, рецензенту и читателю понимать, как была подготовлена публикация.

ИИ должен ускорять науку, а не снижать ее качество

Искусственный интеллект способен сделать научную работу быстрее. Он помогает искать литературу, структурировать информацию, редактировать тексты и выполнять большое количество рутинных операций. Но скорость не должна становиться важнее достоверности. Этичное использование ИИ в научной публикации можно свести к нескольким основным принципам:

человек остается автором;

человек отвечает за содержание;

все факты и источники проверяются;

результаты исследования не генерируются;

конфиденциальные данные защищаются;

существенное использование ИИ раскрывается;

требования конкретного журнала соблюдаются.

Таким образом, вопрос сегодня заключается уже не в том, использовать ли ИИ в науке вообще. Искусственный интеллект становится частью исследовательского процесса, и этот процесс продолжит развиваться.

Главная задача ученых и научных организаций — выработать такие правила работы с нейросетями, при которых технологический прогресс не будет приводить к снижению требований к достоверности, авторству и академической добросовестности.

ИИ может быть инструментом научной работы, но не ее ответственным субъектом. Последнее слово всегда должно оставаться за исследователем.

Автор обзора:
Инга Казарова

Email автора:
I.kazarova@panor.ru