neuromancer
v1.5.2
Нейронные модули с адаптивными нелинейными ограничениями и эффективными регуляризациями (NeuroMancer) представляют собой библиотеку дифференцируемого программирования с открытым исходным кодом (DP) для решения проблем с параметрической ограниченной оптимизацией, физической идентификации системы и параметрического оптимального управления на основе модели. Нейромант написан в Pytorch и позволяет систематическому интеграции машинного обучения с помощью научных вычислений для создания сквозного дифференцируемого моделей и алгоритмов, встроенных с предварительными знаниями и физикой.
Мы расширяем наши примеры домена энергетических систем с прогнозированием нагрузки для зданий. Мы демонстрируем использование моделирования и прогнозирования временных рядов с использованием краткосрочного набора данных о прогнозировании электроэнергии (тематическое исследование). Мы демонстрируем прогнозирование способности с использованием модели трансформатора, нового блока, добавленного к нашим (нервным) блокам. Мы также используем исторические данные о погоде, чтобы помочь в прогнозировании энергии.
Kolmogorov-Arnold Networks (Канс) в последнее время привлекли внимание как альтернативу многослойным персептронам (MLP) для научного машинного обучения. Тем не менее, кансы могут быть дорогими для обучения, даже для относительно небольших сетей. Мы внедрили блок FBKAN (FBPINNS), для метода разложения домена для KAN, который позволяет обучать несколько небольших кансов параллельно, чтобы дать точные решения для множественных задач.
Новые примеры колаба:
Прогнозирование нагрузки
Функция приближения с сети Kolgomorov-Arnold
Просто беги
pip install neuromancer
Для ручной установки, пожалуйста, обратитесь к инструкциям по установке
Обширный набор учебных пособий можно найти в папке «Примеры», а в приведенных ниже учебниках. Интерактивные ноутбуки версии примеров доступны в Google Colab! Проверьте функциональность нейроманта, прежде чем клонировать репозиторий и настройку среды.
В приведенных ниже ноутбуках представлены основные абстракции библиотеки NeuRomancer, в частности, нашего интерфейса символического программирования и классов узлов.
Часть 1: Линейная регрессия у питорха против нейроманта.
Часть 2: Синтаксис Нейроманта: переменные, ограничения и цели.
Часть 3: Синтаксис Нейроманта: Модули, узел и системный класс.
Быстрый пример того, как решить проблему параметрической ограниченной оптимизации с использованием NeuRomancer, используя наш интерфейс символического программирования, узел и переменную, блоки, тонкие библиотеки и штрафные классы.
# Neuromancer syntax example for constrained optimization
import neuromancer as nm
import torch
# define neural architecture
func = nm . modules . blocks . MLP ( insize = 1 , outsize = 2 ,
linear_map = nm . slim . maps [ 'linear' ],
nonlin = torch . nn . ReLU , hsizes = [ 80 ] * 4 )
# wrap neural net into symbolic representation via the Node class: map(p) -> x
map = nm . system . Node ( func , [ 'p' ], [ 'x' ], name = 'map' )
# define decision variables
x = nm . constraint . variable ( "x" )[:, [ 0 ]]
y = nm . constraint . variable ( "x" )[:, [ 1 ]]
# problem parameters sampled in the dataset
p = nm . constraint . variable ( 'p' )
# define objective function
f = ( 1 - x ) ** 2 + ( y - x ** 2 ) ** 2
obj = f . minimize ( weight = 1.0 )
# define constraints
con_1 = 100. * ( x >= y )
con_2 = 100. * ( x ** 2 + y ** 2 <= p ** 2 )
# create penalty method-based loss function
loss = nm . loss . PenaltyLoss ( objectives = [ obj ], constraints = [ con_1 , con_2 ])
# construct differentiable constrained optimization problem
problem = nm . problem . Problem ( nodes = [ map ], loss = loss )NeuroMancer создан для решения различных задач моделирования и контроля, специфичных для домена, используя массив методов. Здесь мы показываем, как моделировать и контролировать энергетические системы построения, а также применять методы прогнозирования нагрузки.
Для более глубокого освещения наших методов см. В нашем разделе общих учебных пособий ниже.
NeuroMancer позволяет сформулировать и решать широкий класс задач параметрической оптимизации, используя машинное обучение для изучения решений таких проблем. Больше информации о параметрическом программировании
Часть 1: Обучение решению проблемы с ограниченной оптимизацией.
Часть 2: Обучение для решения проблемы оптимизации, ограниченной квадратикой.
Часть 3: Обучение решению набора 2D -ограниченных задач оптимизации.
Часть 4: Обучение решению проблемы с ограниченной оптимизацией с прогнозируемым градиентом.
Часть 5: Использование cvxpylayers для дифференцируемой проекции на политопический возможный набор.
Часть 6: Обучение оптимизации с метрическим обучением для слоев разделения оператора.
NeuroMancer позволяет выучить политику управления для полного спектра динамических систем белого/серых/черных ящиков, с учетом ограничений выбора и объективных функций. Больше информации о дифференциальном прогнозном контроле
Нейромант актуален с современными методами. Здесь мы демонстрируем мощные сети Колгоморов-Арнольд. Дополнительная информация о сети Колгоморов-Арнольд
NeuroMancer позволяет использовать машинное обучение, предшествующую физику и знания в области, чтобы построить математические и дифференцированные модели динамических систем, учитывая измеренные наблюдения за поведением системы. Более подробная информация об идентификаторе системы через космические модели нейронного состояния и ODES
Символический дизайн программирования NeuRomancer идеально подходит для решения Pinns. Больше информации о Pinns
Нейромант был интегрирован с Torchsde для обработки стохастических динамических систем. Более подробная информация о SDES
Мы интегрировали Pytorch Lightning для оптимизации кода, включили пользовательскую логику обучения, поддержку GPU и настройки мульти-GPU и обрабатываем крупномасштабные, интенсивные память задачи обучения.
Документацию для библиотеки можно найти в Интернете. Существует также введение видео, охватывающее основные функции библиотеки.
Для получения дополнительной информации, в том числе для разработчиков, перейдите в наш разработчик и руководство пользователя
Мы приветствуем вклад и отзывы сообщества с открытым исходным кодом!
Пожалуйста, прочитайте Руководство по развитию сообщества для получения дополнительной информации о вкладах, дискуссиях и вопросах.
Смотрите заметки о выпуске, документирующие новые функции.
Нейромант поставляется с лицензией BSD. Смотрите лицензию для получения дополнительной информации.
@article{Neuromancer2023,
title={{NeuroMANCER : Neural Modules with Adaptive Nonlinear Constraints and Efficient Regularizations}},
author={Drgona, Jan and Tuor, Aaron and Koch, James and Shapiro, Madelyn and Jacob, Bruno and Vrabie, Draguna},
Url= {https://github.com/pnnl/neuromancer},
year={2023}
} Активные застройщики : Ян Дргона, Рахул Бирмивал, Бруно Джейкоб
Примечательные участники : Аарон Туор, Мадлен Шапиро, Джеймс Кох, Сет Брини, Бо Тан, Этан Кинг, Эллиот Скомски, Чжао Чен, Кристиан Мёлдруд Легаард
Научные консультанты : Draguna Vrabie, Panos Stinis
Взносы с открытым исходным кодом, внесенные:
Сделано из ouctrib.rocks.
Это исследование было частично поддержано инициативами по математике для искусственных рассуждений в науке (MARS) и инвестициях с конвергенцией данных (DMC) с помощью лабораторных исследований и разработок (LDRD) в Pacific Northwest National National Laboratory (PNNL), посредством Министерства энергетики США, посредством офиса повышенных научных исследований, управляемых данных по борьбе с энергосбережении, ими, управляемыми данными, возобновляемыми программами, возобновляемыми программами. Энергия, строительные технологии в рамках «динамической декарбонизации посредством автономного физического ориентированного глубокого обучения и оптимизации строительных операций» и «продвигаемого рыночного управления зданием, затратным дифференцируемым прогнозирующим контролем». Этот проект также был поддержан от Министерства энергетики США, программы «Передовые научные исследования научных вычислений» в рамках количественной оценки неопределенности для проекта Multifidity Operator Learning (MOLUCQ) (Проект № 81739). PNNL является многопрограммой национальной лаборатории, управляемой для Министерства энергетики США (DOE) Мемориальным институтом Баттелле по контракту № DE-AC05-76RL0-1830.
