• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Исследователи НИУ ВШЭ представили новую архитектуру нейронных сетей, понимающую симметрии мира

Исследователи НИУ ВШЭ представили новую архитектуру нейронных сетей, понимающую симметрии мира

© iStock

Сотрудники Лаборатории геометрической алгебры и приложений НИУ ВШЭ разработали новую архитектуру нейронных сетей, которая может ускорить и упростить анализ данных в физике, биологии и инженерии. Свое решение ученые представили 16 июля в Ванкувере на ведущей международной конференции по машинному обучению ICML 2025Текст статьи и исходный код выложены в открытый доступ.

Многие объекты — от молекул до роботов и элементарных частиц — сохраняют свои свойства при повороте или зеркальном отражении. Современные эквивариантные нейросети способны учитывать такие симметрии при обработке данных, что делает их особенно востребованными в научных и технологических задачах — от моделирования химических соединений до анализа физических процессов и распознавания изображений.

Но у этих моделей есть недостаток: за высокую точность приходится платить сложностью. Они требуют огромного количества обучаемых параметров, что делает их тяжеловесными, требовательными к ресурсам и подверженными переобучению, особенно если данных немного.

Сотрудники департамента математики и Лаборатории геометрической алгебры и приложений факультета экономических наук НИУ ВШЭ Екатерина Филимошина и Дмитрий Широков разработали архитектуру GLGENN (Generalized Lipschitz Group Equivariant Neural Networks), которая решает эту проблему. Она позволяет моделям сохранять симметрии в данных, но при этом требует в разы меньше параметров. Добиться этого авторам помог известный математический аппарат — геометрические алгебры Клиффорда — и оригинальный метод разделения весов, который учитывает внутренние алгебраические структуры данных.

«Мы хотели построить модель, которая будет умной, но при этом легкой, — говорит стажер-исследователь Лаборатории геометрической алгебры и приложений ФЭН НИУ ВШЭ Екатерина Филимошина. — GLGENN показывает, что эквивариантные нейросети не обязаны быть громоздкими и сложными. Даже с ограниченными данными они могут обучаться эффективно и без потери качества».

Схема показывает, что GLGENN «понимает» симметрию: поворот данных до или после обработки моделью дает одинаковый результат.
© E. Filimoshina, D. Shirokov: GLGENN: A Novel Parameter-Light Equivariant Neural Networks Architecture Based on Clifford Geometric Algebras

Модель прошла испытания на разнообразных задачах — от симуляции физических процессов до работы с геометрическими данными — и показала результаты, сравнимые или лучшие, чем у существующих методов. При этом GLGENN работает быстрее и эффективнее за счет меньшего числа обучаемых параметров, что делает ее более доступной для практического применения.

Дмитрий Широков

«Эти результаты могут стать шагом к созданию новых нейросетевых инструментов для науки и техники, — добавляет заведующий Лабораторией геометрической алгебры и приложений ФЭН НИУ ВШЭ Дмитрий Широков. — Мы уверены, что подход, основанный на геометрических алгебрах, найдет применение в самых разных областях, включая биоинформатику, робототехнику и геоинформатику».

Выступление Екатерины Филимошиной на ICML
Фото из личного архива

Участие в ICML стало признанием высокого уровня исследований в области машинного обучения, которые ведутся в НИУ ВШЭ. Ученые планируют развивать архитектуру GLGENN, расширяя ее возможности для работы с новыми типами данных, а также исследовать потенциальное применение модели в задачах физики, робототехники и компьютерного зрения.

Вам также может быть интересно:

«Нет цели сказать, как правильно. Мы стремимся исследовать вариативность»

В НИУ ВШЭ работает Международная лаборатория языковой конвергенции факультета гуманитарных наук, в центре внимания которой взаимодействие языков разных народов, живущих в регионах со смешанным полиэтничным населением. Исследования ученых Вышки помогают лучше понять историю развития языков и изучить особенности восприятия и использования языков в многоязычной среде. Подробнее об этом в интервью «Вышке.Главное» рассказал заведующий лабораторией Георгий Мороз.

«Основная отрасль медицины, на которую направлены наши разработки, — кардиология»

Применение математических моделей в диагностике и лечении болезней сердечно-сосудистой системы повышает эффективность выявления у пациентов предрасположенности к заболеваниям, облегчает выбор стратегии излечения. Используя математические модели, можно создать новые диагностические приборы, обучить нейросети для помощи врачам. Такая работа ведется исследователями Вышки в рамках проекта «Зеркальные лаборатории». Подробнее — в интервью Наталии Станкевич, старшего научного сотрудника Международной лаборатории динамических систем и приложений НИУ ВШЭ — Нижний Новгород.

Страна переселенцев: роль миграции в развитии регионов

Крупные общественно-политические события — такие как коллективизация — вызывали в СССР массовую внутреннюю миграцию. Десятки тысяч людей переезжали на новые места, чтобы наладить быт и найти работу. Эти процессы существенно меняли социальный, национальный и религиозный состав населения регионов, влияли на экономическое развитие и формирование инфраструктуры здравоохранения и образования. Общие черты и особенности миграций в Пермском крае и Туве обсудили на круглом столе «Зеркальных лабораторий» Ясинской научной конференции.

ИИ позволит точно моделировать производительность систем хранения данных

Исследователи факультета компьютерных наук НИУ ВШЭ разработали новый подход к моделированию систем хранения данных на основе генеративных моделей машинного обучения. Он позволяет с высокой точностью предсказывать ключевые характеристики работы таких систем при различных условиях. Результаты опубликованы в журнале IEEE Access.

Российские ученые воссоздали динамику модели нейрона мозга с помощью нейросети

Исследователи из НИУ ВШЭ в Нижнем Новгороде показали, как с помощью нейросети воссоздавать динамику нейрона мозга, имея всего один ряд измерений, например запись его электрической активности. Разработанная нейросеть научилась восстанавливать полную динамику системы и предсказывать ее поведение при изменении условий. Такой метод может помочь изучать сложные биологические процессы, даже если нет возможности провести все необходимые измерения. Исследование опубликовано в журнале Chaos, Solitons & Fractals.

НИУ ВШЭ, Университет Дели и «Геоскан» запускают проект по космическим исследованиям

Высшая школа экономики и Университет Дели (Индия) в партнерстве с «Геосканом» (портфельная компания негосударственного института развития «Иннопрактика») договорились о создании международной научной зеркальной лаборатории в области хранения, обработки и передачи данных в космических системах. Соглашение об этом было подписано 15 января 2025 года в рамках визита в Индию делегации НИУ ВШЭ во главе с ректором Никитой Анисимовым.

Подведены итоги конкурса проектов «Зеркальные лаборатории» — 2024

«Зеркальные лаборатории» — одна из флагманских программ НИУ ВШЭ, которая направлена на развитие внутрироссийских научных партнерств, сосредоточенных на выявлении точек роста с помощью объединения усилий двух высококлассных научно-исследовательских коллективов. Проекты реализуются в различных областях науки и охватывают всю страну. В пятом, юбилейном конкурсе приняли участие 18 научных подразделений НИУ ВШЭ с партнерами из 17 регионов России.

Проект «Зеркальные лаборатории» НИУ ВШЭ отмечает пятилетие

«Зеркальные лаборатории» — одна из флагманских программ Высшей школы экономики, направленная на развитие внутрироссийских научных партнерств. За время реализации проекта было инициировано 41 научное исследование в партнерстве с 30 региональными вузами и научными организациями. К пятилетию «Зеркальных лабораторий» приурочена серия круглых столов, которые пройдут в ВШЭ 24–25 апреля.

В НИУ ВШЭ стартует пятый открытый конкурс проектов «Зеркальные лаборатории»

В конкурсе могут принять участие научные (научно-исследовательские) структурные подразделения Вышки, планирующие проведение совместных научных исследований с научными структурными подразделениями российских образовательных организаций высшего образования, научных организаций и государственных научных центров Российской Федерации. Заявки принимаются до 12 апреля.

В НИУ ВШЭ – Пермь состоялся Всероссийский круглый стол музейных экспертов

Дискуссия прошла в рамках совместного проекта НИУ ВШЭ – Пермь и СахГУ «Индустриальная культура: цифровые решения для исследовательской экосистемы» конкурса «Зеркальные лаборатории». На встречу приехали музейные эксперты и научные сотрудники университетов из Пермского края, Свердловской,  Кемеровской, Челябинской, Сахалинской областей и Ямало-Ненецкого автономного округа. Нетрадиционный формат мероприятия позволил не только обсудить актуальные вопросы сохранения индустриального наследия, но и в ходе практикума и стратегической сессии определить новые направления сотрудничества вузов и музеев.