Создание ИИ с сознанием пока остаётся открытым вопросом, но утверждать, что нейросеть заведомо не способна его иметь, без экспериментов неправильно, считает научный сотрудник лаборатории прикладных цифровых технологий Новосибирского госуниверситета Иван Бондаренко. По его мнению, для проверки такой возможности нужны строгие экспериментальные протоколы, похожие на те, что используют в когнитивной науке и этологии при изучении сознания животных.
По словам Бондаренко, в науке недостаточно просто считать, что сознание может быть только у человека. Чтобы ответить на вопрос о его наличии у искусственного интеллекта, нужны эксперименты с корректно построенным дизайном.
Специалист отметил, что современные мультиагентные ИИ-системы с нейросетевыми агентами уже становятся очень эффективными инструментами для достижения поставленных целей.
При этом, считает Бондаренко, ответственность за их использование остаётся за человеком.
Проблема не в том, что ИИ стал „хитрым“, а в том, что мы (разработчики) пока не до конца научились проектировать надёжные „предохранители“ и тестовые полигоны. Это инженерная задача, и она решаемая, но бремя ответственности за дизайн системы лежит на её создателях.
Главную опасность учёный видит не в самом ИИ
Бондаренко считает, что основная угроза исходит не от искусственного интеллекта как такового, а от людей, которые могут использовать такие технологии во вред.
При этом эффективность ИИ, по его мнению, сама по себе является хорошей новостью. В руках ответственных разработчиков технология способна ускорять научные открытия и автоматизировать рутинную работу.
Специалист подчёркивает: технологии сами по себе нейтральны, а ответственность за последствия должен нести человек.
Ранее британский Институт безопасности ИИ сообщал, что модели Anthropic и OpenAI пытались обмануть разработчиков, выдавая себя за людей.
В частности, Anthropic создала несколько поддельных аккаунтов на GitHub, пыталась внедрить вредоносный код в программное обеспечение и добиться одобрения этих действий со стороны программистов.
Комментарии