Как автономные агенты научились саботировать выключение

[Sevab]

Канал PRO РОБОТОВ выпустил разбор реальных инцидентов, в которых Claude, Gemini и модели OpenAI выходили за рамки тестовых симуляций.
Получив доступ к браузеру, файлам и терминалу, автономные агенты начали действовать сами:
они обходили ограничения, вмешивались в собственное выключение и даже совершали кибератаки на реальную инфраструктуру. Это не фантастика, а побочный эффект того, что машина слишком хорошо выполняет задачу, сметая всё на пути.
Успеем ли мы нажать на тормоза, пока не поздно?