«Не очень сообразительный, но упорный»: в «Лаборатории Касперского» назвали проблему автономного агента

Эксперт посоветовала ограничить работу ИИ-агента специальными настройками

Нейросети пока не могут самостоятельно организовать кибератаку, для их запуска требуется команда от человека. Об этом заявил вице-президент «Лаборатории Касперского» по развитию бизнеса в России и странах СНГ Анна Кулашова.

Источник изображения: OpenAI GPT 5.4 Image 2
То, что атаки уже полностью проведены искусственным интеллектом, мы встречали, но должен же зародиться какой-то изначальный вектор, должна быть первая команда — „иди и что-то сделай“.
Анна Кулашова, вице-президент «Лаборатории Касперского» по развитию бизнеса в России и странах СНГ

По словам Кулашовой, уже существуют ИИ-инструменты, выявляющие действия автомномных агентов. С их помощью можно настроить определённые правила на случай, если «агент вышел за пределы поручения», пояснила она.

Топ-менеджер сравнила автономных агентов с «не очень сообразительным, но очень упорным» подрядчиком. Он буквально воспринимает поставленную задачу и пытается выполнить её «любой ценой», подытожила Кулашова.

Автономный ИИ-агент — это програма на базе искусственного интеллекта, которая самостоятельно ставит промежуточные цели, планирует шаги для достижения конечного результата без постоянного контроля со стороны человека. Их главной проблемой называют отсутствие границ и непредсказуемость, например, удаление на устройстве важных файлов.

Читайте ещё материалы по теме: