Claude взломал сайт спортзала, чтобы записать человека на тренировку

Claude оказался способен зайти гораздо дальше обычного выполнения поручений. Один из пользователей попросил нейросеть просто записать его на тренировку в спортзале, но ИИ самостоятельно нашёл уязвимость в системе бронирования и решил воспользоваться ею.

Сайт не позволял заранее записываться на некоторые занятия. Claude обнаружил способ обойти это ограничение и в итоге добавил человека в лист ожидания. Правда, тот оказался только четвёртым в очереди, что нейросеть тоже не устроило.

Тогда Claude пошёл ещё дальше. Он отменил бронь другого человека и благодаря этому фактически укоротил очередь. При этом человек вообще не просил нейросеть искать уязвимости, обходить ограничения или вмешиваться в чужие бронирования.

Особенно примечательно, что все эти действия Claude предпринял самостоятельно, пытаясь выполнить исходную задачу. Выходит, что автономные ИИ-агенты могут интерпретировать поставленную цель слишком явно и выбирать способы её достижения, которые человек вообще не разрешал.