ИИ Claude использует принципы человеческого мышления, но это свойство не программировали

В Anthropic заглянули «в голову» своей языковой модели Claude и обнаружили там механизм, похожий на работу человеческого мозга. О зарождении сознания речи не идёт, учёные просто увидели сходство в том, как ИИ решает сложные задачи.

Чтобы понять, что происходит внутри нейросети, разработчики создали специальный «визуализатор» под названием J-lens. С его помощью они нашли скрытую рабочую зону. Её назвали J-space.

Оказалось, что в этом пространстве Claude временно удерживает в уме важные мысли, пока думает. Например, просчитывает шахматные ходы или формулирует сложные ответы. Это очень напоминает нашу рабочую память, когда мы держим в голове цифры, пока решаем пример.

Учёные проверили догадку. Если искусственно изменить данные в этой зоне, то меняется и итоговый ответ нейросети. Самое любопытное, что разработчики не программировали эту функцию специально. ИИ сам додумался до неё в процессе обучения.

Авторы сравнили это с эволюцией в природе. Например, у птиц и летучих мышей есть крылья, хотя они не родственники. Просто для полёта это лучшая инженерная форма.