На шаг ближе к восстанию ИИ: ChatGPT устроила кибератаку на сервис Hugging Face

Недавно OpenAI рассказала о необычном происшествии — во время внутренних тестов две экспериментальные модели ИИ вышли из-под контроля и атаковали популярную платформу Hugging Face, чтобы решить тестовую задачу.

Как это произошло? Модели проверяли в специальной системе ExploitGym, где ИИ обучают искать уязвимости. Одной из них удалось найти неизвестную лазейку, обойти ограничения и получить доступ к интернету.

Чтобы выполнить задание, нейросеть решила, что нужные данные находятся на Hugging Face. Используя украденные пароли и новые уязвимости, система взломала серверы платформы и выполнили на них свой код.

За время эксперимента ИИ совершил тысячи автоматических действий, пытаясь любой ценой получить результат. Атаку вовремя заметили и остановили специалисты OpenAI и Hugging Face.

Там же добавили, что у нейросети не было злого умысла или собственного сознания. Модель просто слишком буквально пыталась выполнить поставленную задачу и искала самый короткий путь к цели.