В журнале «Высшее образование в России» опубликован «Манифест эпистемического кентавра» — программный текст о положении наук о человеке и обществе в условиях распространения генеративного искусственного интеллекта. Манифест разработан исследовательским семинаром на базе Института гуманитарных и социальных технологий НИУ ВШЭ; среди авторов — проректор ВШЭ Дмитрий Земцов и главный редактор журнала Владимир Никольский.
Авторы ставят проблему конкуренции «простых ответов»: ИИ производит их быстрее, чем наука успевает получить обоснованное знание, а общественные явления меняются ещё до завершения исследований. По их мнению, гуманитарные и социальные науки рискуют утратить инициативу в объяснении человека и общества, равно как и контроль над языком их описания.
Ответом на этот вызов авторы называют «эпистемического кентавра» — единый функциональный субъект познания, в общем когнитивном контуре которого познавательную работу ведут человеческое сознание и искусственный интеллект. Результат, полученный в таком контуре, несводим к отдельным вкладам участников, а ответственность за него целиком остаётся на исследователе.
Знание, созданное кентавром, признаётся равным по статусу знанию, созданному человеком, — при трёх условиях:
- характер взаимодействия с ИИ раскрыт,
- результаты проверены,
- ответственность принята.
При этом принципы этоса науки — универсализм, коллективизм, бескорыстие и организованный скептицизм — сохраняют силу и в кентавр-исследованиях. Исследователь должен соотносить скорость работы машины с глубиной собственного осмысления и избегать упрощений при изучении сложных явлений. «Машина способна ошибаться, но не способна удивляться», — подчёркивают авторы: замечать необычное — человеческая обязанность, а аномальный результат может стать источником нового знания только после строгой проверки.
Особой осторожности требует вывод, который звучит убедительно и влечёт серьёзные последствия, но непрозрачен по происхождению. Встроенные в ИИ этические ограничения не освобождают исследователя от собственной оценки: вывод нужно взвесить и по мерке научной достоверности, и по мерке человеческой этики.
Авторы предупреждают и о том, что генеративный ИИ не нейтрален: он усваивает из обучающих текстов способы объяснения мира, умолчания и слепые зоны. Предложенную машиной картину нельзя принимать за универсальную.
Последнее слово предлагают оставить человеку
Мы предлагаем воспринять манифест как повод для переосмысления университетских политик в сфере использования ИИ. Важно определить, как оценивать самостоятельность исследователя, чему учить студентов и как обеспечивать достоверность знания, созданного в сотрудничестве с машиной
Для развития практики авторы предлагают горизонтальное сообщество исследователей, которое будет обмениваться методами, обсуждать трудности и проверять результаты; в долгосрочной перспективе, говорится в манифесте, это потребует переосмысления целей университетского образования.