Глава Anthropic Дарио Амодей призвал замедлить развитие ИИ из-за угрозы «роботов-ботнетов»

Руководитель Anthropic, компании-разработчика ИИ Claude, опубликовал план по сдерживанию технологий на ближайшие полгода. По мнению Амодея, из-за стремительного развития нейросетей уже через 6–12 месяцев автономные ИИ-агенты могут захватить весь интернет с помощью масштабных ботнетов, нанеся колоссальный ущерб.

Идею поддержали Илон Маск и Сэм Альтман. В своем манифесте Амодей предложил внедрить независимых сторонних оценщиков с доступом уровня сотрудников внутрь ведущих ИИ-компаний.

Но эксперты относятся к инициативе скептически. Скопированные и украденные модели уже находятся в открытом доступе, а ключевые игроки и государства вряд ли откажутся от миллиардных прибылей ради туманных идеалов безопасности. Время для эффективного регулирования было упущено еще на старте гонки.