"Это сетевой эффект", - сказал профессор машиностроения Калифорнийского университета в Санта-Барбаре Франческо Булло, объясняя, что ассоциативные воспоминания хранятся не в отдельных клетках мозга. "Хранение и извлечение информации из памяти - это динамические процессы, которые происходят во всех сетях нейронов".

В 1982 году физик Джон Хопфилд перевел эту теоретическую концепцию нейробиологии в область искусственного интеллекта, сформулировав сеть Хопфилда. При этом он не только обеспечил математическую основу для понимания хранения и извлечения информации из памяти в человеческом мозге, он также разработал одну из первых рекуррентных искусственных нейронных сетей - сеть Хопфилда, известную своей способностью извлекать полные паттерны из зашумленных или неполных входных данных. Хопфилд получил Нобелевскую премию за свою работу в 2024 году.

Однако, по словам Булло и его коллег Симоны Беттети, Джакомо Баджо и Сандро Зампьери из Университета Падуи в Италии, традиционная сетевая модель Хопфилда эффективна, но она не раскрывает всю историю того, как новая информация направляет поиск в памяти. "Примечательно, - говорят они в статье, опубликованной в журнале Science Advances, - что роль внешних входных данных в значительной степени не изучена, начиная с их влияния на нейронную динамику и заканчивая тем, как они способствуют эффективному извлечению информации из памяти". Исследователи предлагают модель извлечения информации из памяти, которая, по их словам, более точно описывает то, как мы воспринимаем память.

"Современная версия систем машинного обучения, эти большие языковые модели - на самом деле они не моделируют память", - объяснил Булло. "Вы вводите запрос и получаете результат. Но это не тот способ, которым мы понимаем воспоминания в животном мире и обращаемся с ними". В то время как LLM могут выдавать ответы, которые могут звучать убедительно разумно, опираясь на образцы языка, которым их кормят, им все еще не хватает лежащих в основе рассуждений и опыта физического реального мира, которые есть у животных.

"То, как мы воспринимаем мир, - это нечто более непрерывное и в меньшей степени зависящее от запуска и перезагрузки", - сказала Беттети, ведущий автор статьи. Большинство методов лечения по модели Хопфилда, как правило, относились к мозгу так, как если бы это был компьютер, добавил он, с очень механистической точки зрения. "Вместо этого, поскольку мы работаем над моделью памяти, мы хотим начать с человеческой точки зрения".

Главный вопрос, вдохновлявший теоретиков, заключался в следующем: когда мы воспринимаем окружающий нас мир, как сигналы, которые мы получаем, позволяют нам восстанавливать воспоминания?

Как и предполагал Хопфилд, это помогает концептуализировать извлечение информации из памяти в терминах энергетического ландшафта, в котором долины являются энергетическими минимумами, представляющими воспоминания. Поиск в памяти подобен исследованию этого ландшафта; узнавание происходит, когда вы падаете в одну из долин. Ваше исходное положение в ландшафте - это ваше исходное состояние.

"Представьте, что вы видите кошачий хвост", - сказал Булло. - Не всю кошку целиком, а только хвост. Система ассоциативной памяти должна быть способна восстановить память всей кошки". Согласно традиционной модели Хопфилда, кошачьего хвоста (стимула) достаточно, чтобы приблизить вас к долине с надписью "кошка", объяснил он, рассматривая стимул как начальное условие. Но как вы вообще добрались до этого места?

"Классическая модель Хопфилда недостаточно подробно объясняет, как, увидев хвост кошки, вы оказываетесь в нужном месте, чтобы скатиться с холма и достичь минимума энергии", - сказал Булло. "Как вы перемещаетесь в пространстве нейронной активности, где вы храните эти воспоминания? Это немного непонятно."

Разработанная исследователями модель пластичности, управляемой вводом данных (IDP), направлена на устранение этого недостатка ясности с помощью механизма, который постепенно интегрирует прошлую и новую информацию, направляя процесс извлечения из памяти к правильной памяти. Вместо применения двухэтапного алгоритмического извлечения данных из памяти к довольно статичному энергетическому ландшафту оригинальной сетевой модели Хопфилда исследователи описывают динамический механизм, управляемый вводом данных.

"Мы выступаем за идею о том, что по мере получения стимула из внешнего мира (например, изображения кошачьего хвоста), это одновременно изменяет энергетический ландшафт", - сказал Булло. "Стимул упрощает энергетический ландшафт, так что независимо от вашего начального положения вы перейдете к правильному запоминанию кошки". Кроме того, исследователи говорят, что модель IDP устойчива к шуму - ситуациям, когда входные данные расплывчаты, двусмысленны или частично затемнены - и фактически использует шум как средство отфильтровывания менее стабильных воспоминаний (более мелких долин этого энергетического ландшафта) в пользу более стабильных.

"Мы начинаем с того факта, что когда вы смотрите на сцену, ваш взгляд перемещается между различными компонентами сцены", - сказала Беттети. "Таким образом, в каждый момент времени вы выбираете, на чем хотите сосредоточиться, но вокруг вас много шума". Как только вы фиксируете ввод, на котором нужно сосредоточиться, сеть настраивает себя таким образом, чтобы расставить ему приоритеты, объяснил он.

Выбор того, на каком стимуле сосредоточиться, он же внимание, также является основным механизмом, лежащим в основе другой архитектуры нейронной сети, transformer, которая стала сердцем больших языковых моделей, таких как ChatGPT. Хотя модель IDP, предлагаемая исследователями, "начинается с совершенно другой начальной точки с другой целью", сказал Булло, существует большой потенциал для того, чтобы эта модель была полезна при проектировании будущих систем машинного обучения.

"Мы видим связь между этими двумя явлениями, и статья описывает ее", - сказал Булло. "Это не является основной темой статьи, но есть прекрасная надежда, что эти системы ассоциативной памяти и большие языковые модели могут быть согласованы".