Эксперты по ИИ спорят, как правильно контролировать нейросети и не дать им выйти из-под контроля

Раньше считалось, что лучшая защита от ИИ — это просто выдернуть из компьютера сетевой провод (такой метод называется air-gapping). Но разработчики из OpenAI предупреждают, что два ПК, стоящих рядом в одной комнате, могут обмениваться данными без проводов и интернета.

Как это работает? Один ПК начинает сильно греться от работы, а второй считывает эти изменения температуры своими датчиками и расшифровывает их как азбука Морзе.

Что предлагают сделать для решения проблемы? Руководитель Anthropic предлагает создателям ИИ объединиться и вместе контролировать, насколько быстро обучаются новые нейросети.

В качестве дополнительных мер предлагается также привлечь государство для проверки их безопасности. Почему некоторые против? Скептики считают, что гиганты ИИ призывают притормозить разработки не ради общей безопасности, а чтобы просто помешать молодым конкурентам догнать их и заработать больше денег.