Исследователи из Университета штата Северная Каролина разработали новый инструмент на основе искусственного интеллекта, который помогает разработчикам компьютерных архитектур повышать производительность процессоров за счет улучшения управления памятью. Инструмент под названием CacheMind — это первый симулятор компьютерной архитектуры, способный отвечать на произвольные интерактивные вопросы о сложном взаимодействии аппаратного и программного обеспечения.
Новый инструмент ориентирован на кэши — аппаратные или программные компоненты системы, в которых хранятся данные, которые системе может понадобиться использовать в ближайшее время. Идея заключается в том, что данные из кэша извлекаются быстрее, чем из других частей жесткого диска. Однако в кэше можно хранить только ограниченный объем данных.
Для повышения производительности кэша разработчики компьютерных архитектур используют два взаимодополняющих метода: предварительная выборка повышает производительность за счет выборочного помещения в кэш данных, которые с наибольшей вероятностью будут использованы, до того, как они понадобятся; а политика замены данных в кэше — это алгоритм, который определяет, какие данные следует удалить из кэша, чтобы освободить место для новых данных.
Статья «CacheMind: от частоты промахов к причинно-следственному объяснению замены кэша на естественном языке» была представлена 25 марта на Международной конференции ACM по архитектурной поддержке языков программирования и операционных систем (ASPLOS 2026) в Питтсбурге, штат Пенсильвания. Она доступна на сервере препринтов arXiv.
По сути, современные подходы к повышению производительности кэша основаны на методе проб и ошибок: запускаете симуляцию, анализируете результаты, вносите изменения в механизм предварительной выборки или политику замены, снова запускаете симуляцию и смотрите, стало ли лучше.
«Более эффективный подход заключается в том, чтобы проанализировать происходящее, выявить закономерности, которые можно улучшить, определить причины этих закономерностей, а затем внести коррективы, — говорит Самира Мирбагер Аджорпаз, автор статьи и доцент кафедры электротехники и вычислительной техники в Университете штата Северная Каролина. — Для этого и был разработан CacheMind — он использует причинно-следственные связи, а не метод проб и ошибок, для улучшения управления памятью».
«Наша цель состояла в том, чтобы разработать удобный инструмент, который помог бы разработчикам процессоров понять не только то, что происходит внутри их процессоров, но и почему это происходит, — говорит Мирбагер Аджорпаз. — Важно отметить, что CacheMind позволяет задавать произвольные вопросы, которые помогают человеку рассуждать, и таким образом искусственный интеллект может работать вместе с людьми при разработке процессоров. Создать такой инструмент было непросто, потому что обычные модели искусственного интеллекта обучаются на вопросах и ответах,
Конечным результатом стал «диалоговый инструмент», который позволяет архитекторам задавать вопросы на естественном языке, например: «Почему доступ к памяти, связанный с ПК X, приводит к большему количеству вытеснений?»
В ходе экспериментального тестирования CacheMind повысил как частоту попаданий в кэш, так и скорость работы во всех тестовых сценариях.
Поскольку CacheMind — это первый инструмент на основе больших языковых моделей, разработанный специально для реализации политики замены кэша, исследователи также создали эталонный тест, с помощью которого можно сравнить производительность CacheMind с производительностью будущих моделей, предназначенных для выполнения той же задачи.