neuromancer
v1.5.2
Los módulos neuronales con restricciones no lineales adaptativas y regularizaciones eficientes (Neuromancer) es una biblioteca de programación diferenciable de código abierto (DP) para resolver problemas de optimización limitados paramétricos, identificación del sistema informado por física y control óptimo basado en modelos paramétricos. Neuromancer está escrito en Pytorch y permite la integración sistemática del aprendizaje automático con computación científica para crear modelos y algoritmos diferenciables de extremo a extremo integrados con conocimiento previo y física.
Expandimos nuestros ejemplos de dominio de sistemas de energía con pronósticos de carga para edificios. Mostramos el uso del modelado y el pronóstico de la serie temporal utilizando el conjunto de datos de pronóstico de carga de electricidad a corto plazo (Estudio de caso de Panamá). Demostramos capacidades de pronóstico utilizando un modelo de transformador, un nuevo bloque agregado a nuestros bloques (neuronales ).py, así como otros bloques estándar. También utilizamos datos meteorológicos históricos para ayudar en el pronóstico de energía.
Kolmogorov-Arnold Networks (Kans) ha atraído la atención recientemente como una alternativa a los perceptrones multicapa (MLP) para el aprendizaje automático científico. Sin embargo, Kans puede ser costoso de entrenar, incluso para redes relativamente pequeñas. Hemos implementado un bloque FBKAN (FBPINN), para el método de descomposición de dominio para Kans que permite que varios Kans pequeños se entrenen en paralelo para dar soluciones precisas para problemas multiescala.
Nuevos ejemplos de colab:
Pronóstico de carga
Aproximación de la función con redes Kolgomorov-Arnold
Simplemente ejecutar
pip install neuromancer
Para la instalación manual, consulte las instrucciones de instalación
Se puede encontrar un extenso conjunto de tutoriales en la carpeta de ejemplos y los tutoriales a continuación. ¡Las versiones interactivas de los ejemplos están disponibles en Google Colab! Pruebe la funcionalidad del neuromancer antes de clonar el repositorio y configurar un entorno.
Los cuadernos a continuación introducen las abstracciones centrales de la Biblioteca Neuromancer, en particular, nuestras clases de interfaz de programación simbólica y nodos.
Parte 1: Regresión lineal en Pytorch vs Neuromancer.
Parte 2: Tutorial de sintaxis del neuromancer: variables, restricciones y objetivos.
Parte 3: Tutorial de sintaxis del neuromancer: módulos, nodo y clase de sistema.
Ejemplo rápido sobre cómo resolver el problema de optimización paramétrica restringida utilizando Neuromancer, aprovechando nuestra interfaz de programación simbólica, nodo y variable, bloques, biblioteca delgada y clases de penaltyloss.
# Neuromancer syntax example for constrained optimization
import neuromancer as nm
import torch
# define neural architecture
func = nm . modules . blocks . MLP ( insize = 1 , outsize = 2 ,
linear_map = nm . slim . maps [ 'linear' ],
nonlin = torch . nn . ReLU , hsizes = [ 80 ] * 4 )
# wrap neural net into symbolic representation via the Node class: map(p) -> x
map = nm . system . Node ( func , [ 'p' ], [ 'x' ], name = 'map' )
# define decision variables
x = nm . constraint . variable ( "x" )[:, [ 0 ]]
y = nm . constraint . variable ( "x" )[:, [ 1 ]]
# problem parameters sampled in the dataset
p = nm . constraint . variable ( 'p' )
# define objective function
f = ( 1 - x ) ** 2 + ( y - x ** 2 ) ** 2
obj = f . minimize ( weight = 1.0 )
# define constraints
con_1 = 100. * ( x >= y )
con_2 = 100. * ( x ** 2 + y ** 2 <= p ** 2 )
# create penalty method-based loss function
loss = nm . loss . PenaltyLoss ( objectives = [ obj ], constraints = [ con_1 , con_2 ])
# construct differentiable constrained optimization problem
problem = nm . problem . Problem ( nodes = [ map ], loss = loss )Neuromancer está construido para abordar una variedad de problemas de modelado y control específicos del dominio utilizando su variedad de métodos. Aquí mostramos cómo modelar y controlar los sistemas de energía de la construcción, así como aplicar técnicas de pronóstico de carga.
Para obtener una cobertura más profunda de nuestros métodos, consulte nuestra sección de tutoriales generales a continuación.
Neuromancer le permite formular y resolver una amplia clase de problemas de optimización paramétrica que aprovechan el aprendizaje automático para aprender las soluciones a tales problemas. Más información sobre la programación paramétrica
Parte 1: Aprendiendo a resolver un problema de optimización restringido.
Parte 2: Aprender a resolver un problema de optimización con restricciones cuadráticas.
Parte 3: Aprender a resolver un conjunto de problemas de optimización restringidos 2D.
Parte 4: Aprendiendo a resolver un problema de optimización restringido con el gradiente proyectado.
Parte 5: Uso de CVXPylayers para una proyección diferenciable en el conjunto factible politópico.
Parte 6: Aprender a optimizar con el aprendizaje métrico para las capas de división del operador.
Neuromancer le permite aprender políticas de control para un espectro completo de sistemas dinámicos blancos/grises/negros, sujeto a restricciones de elección y funciones objetivas. Más información sobre el control predictivo diferencial
Neuromancer está actualizado con los métodos de última generación. Aquí mostramos las poderosas redes Kolgomorov-Arnold más información sobre las redes Kolgomorov-Arnold
Neuromancer permite que uno use el aprendizaje automático, la física previa y el conocimiento del dominio, para construir modelos matemáticos y diferentes de sistemas dinámicos dadas las observaciones medidas del comportamiento del sistema. Más información sobre ID del sistema a través de modelos de espacio de estado neuronal y ODES
El diseño de programación simbólica de Neuromancer es perfectamente adecuado para resolver pinns. Más información sobre pinns
Neuromancer se ha integrado con las antorchas para manejar sistemas dinámicos estocásticos. Más información sobre SDES
Tenemos un Lightning de Pytorch integrado para optimizar el código, habilitar la lógica de capacitación personalizada, admitir configuraciones de GPU y múltiples GPU, y manejar tareas de aprendizaje a gran escala e intensiva en memoria.
La documentación para la biblioteca se puede encontrar en línea. También hay un video de introducción que cubre las características principales de la biblioteca.
Para obtener más información, incluidas las de los desarrolladores, visite nuestro desarrollador y guía del usuario
¡Agradecemos las contribuciones y los comentarios de la comunidad de código abierto!
Lea las pautas de desarrollo de la comunidad para obtener más información sobre contribuciones, discusiones y problemas.
Consulte las notas de la versión que documentan nuevas funciones.
Neuromancer viene con licencia BSD. Vea la licencia para obtener más detalles.
@article{Neuromancer2023,
title={{NeuroMANCER : Neural Modules with Adaptive Nonlinear Constraints and Efficient Regularizations}},
author={Drgona, Jan and Tuor, Aaron and Koch, James and Shapiro, Madelyn and Jacob, Bruno and Vrabie, Draguna},
Url= {https://github.com/pnnl/neuromancer},
year={2023}
} Desarrolladores de núcleo activo : Jan Drgona, Rahul Birmiwal, Bruno Jacob
Colaboradores notables : Aaron Tuor, Madelyn Shapiro, James Koch, Seth Briney, Bo Tang, Ethan King, Elliot Skomski, Zhao Chen, Christian Mødrup legaard
Asesores científicos : Draguna Vrabie, Panos Stinis
Contribuciones de código abierto hechas por:
Hecho con contribuciones.
This research was partially supported by the Mathematics for Artificial Reasoning in Science (MARS) and Data Model Convergence (DMC) initiatives via the Laboratory Directed Research and Development (LDRD) investments at Pacific Northwest National Laboratory (PNNL), by the US Department of Energy, through the Office of Advanced Scientific Computing Research's “Data-Driven Decision Control for Complex Systems (DnC2S)” project, and through the Energy Efficiency and Energía renovable, la oficina de tecnologías de construcción bajo la "Descarbonización dinámica a través de un aprendizaje profundo y optimización de la construcción centrada en la física autónoma de las operaciones de construcción" y la "gestión de energía del edificio listos para el mercado por el control predictivo diferenciable rentable". Este proyecto también fue apoyado por el Departamento de Energía de EE. UU., Proyecto avanzado de investigación de computación científica, bajo la cuantificación de incertidumbre para el Proyecto de Aprendizaje del Operador de Multifidelidad (MOLUCQ) (Proyecto No. 81739). PNNL es un Laboratorio Nacional de Multi-Programa operado para el Departamento de Energía de los Estados Unidos (DOE) por Battelle Memorial Institute bajo el contrato No. DE-AC05-76RL0-1830.
