Профессор Университета ИТМО Анатолий Шалыто, доктор технических наук, провёл эксперимент с несколькими языковыми моделями и пришёл к выводу, что доверять им без проверки нельзя. 23 июля 2026 года он задал бесплатной версии Perplexity вопрос о том, кто был его официальными оппонентами по докторской диссертации. Модель выдала имена двух учёных, которые на самом деле были оппонентами у его аспиранта — через 25 лет после защиты самого Шалыто.
Профессор обратился к «Алисе», модели «Яндекса». Она назвала других оппонентов, но и те оказались из диссертации его ученика. Со второй попытки «Алиса» выдала два имени, из которых правильным оказалось только одно — второго профессор назвал своим соавтором, а не оппонентом.
Модель «Сбера» также ошиблась: привела тех же вымышленных оппонентов, неправильно указала год защиты (1998 вместо 1999) и назвала ЛЭТИ ведущей организацией, хотя на самом деле Шалыто защищался там, а ведущим предприятием был Институт проблем управления РАН.
«Без проверки советам этих вероятностных и поэтому безответственных "помощников" доверять нельзя, а если каждый раз получаемую от них информацию необходимо досконально проверять, то как им доверять что-либо ответственное?
При этом Шалыто отметил, что платный ChatGPT на тот же вопрос не ответил, но и не ошибся, точно указав дату и место защиты, а также правильно отметив, что оппоненты указаны на второй странице автореферата.
Комментарии