Восстание машин: системы ИИ могут устроить войну, где человечество окажется расходным материалом

Академик Российской академии наук Игорь Каляев выразил мнение, что размежевание создаваемых в мире систем искусственного интеллекта по национальным, половым, конфессиональным и другим признакам может привести к войне между ИИ, в которой человечество окажется лишь расходным материалом.

Источник изображения сгенерировано нейросетью DALL•Е 3

Ученый прокомментировал слова американского предпринимателя Илона Маска о том, что объем доступных данных человечества для обучения ИИ практически исчерпан, и теперь специалистам надо переходить к обучению нейросетей на синтетических данных (созданных самим ИИ).

Каляев отметил, что для тренировки ИИ на синтетических данных необходимо предварительное обучение, формирующее своеобразный «менталитет». По его словам, характер генерируемых данных зависит от тех, кто занимается их созданием, и может отражать социальные или культурные особенности.

Все это может привести к тому, что в дальнейшем будет происходить постепенное размежевание ИИ по национальному, половому, конфессиональному и прочим признакам. А как показывает вся история человечества, именно такое размежевание является главной причиной возникновения всевозможных конфликтов, вплоть до самых кровавых.

Игорь Каляев, доктор технических наук, профессор и академик РАН

Каляев полагает, что каждый ИИ будет считать себя «правильным», а другие ИИ — «неправильными» и подлежащими уничтожению. Это, в свою очередь, может привести к войнам между ИИ, где человечество станет расходным материалом с минимальной ролью.

Он также выразил сомнение в эффективности обучения ИИ на синтетических данных для повышения его способностей в реальном мире. По его словам, это можно сравнить с тем, как если бы ребёнка пытались научить жизни исключительно через мультфильмы.

Академик подчеркнул, что, несмотря на использование реальных данных, ИИ до сих пор не достиг уровня человеческого интеллекта. Принципы работы человеческого разума остаются непонятыми, но явно более эффективными.