CfC

封闭形式的连续时间模型

封闭形式的连续时间神经网络（CFC）是强大的顺序液体神经信息处理单元。

纸张开放访问：https：//www.nature.com/articles/s42256-022-00556-7

arxiv：https：//arxiv.org/abs/2106.13898

液体神经网络的教程，包括液体CFC：https：//ncps.readthedocs.io/en/latest/quickstart.html

要求

• Python3.6或更新
• Tensorflow 2.4或更新
• Pytorch 1.8或更新
• pytorch-lightning 1.3.0或更新
• Scikit-Learn 0.24.2或更新

模块描述

• tf_cfc.py实现CFC（各种版本）在Tensorflow 2.x中
• pytorch中CFC（各种版本）的torch_cfc.py实现
• train_physio.py在Pytorch的Physionet 2012数据集上训练CFC模型（代码改编自Rubanova等人，2019年）
• train_xor.py在tensorflow中的XOR数据集上训练CFC模型（代码改编自Lechner＆Hasani，2020年）
• train_imdb.py在tensorflow中的IMDB数据集上训练CFC模型（根据KERAS示例网站改编的代码）
• train_walker.py在TensorFlow的Walker2D数据集上训练CFC模型（代码改编自Lechner＆Hasani，2020）
• irregular_sampled_datasets.py数据集（相同的拆分）（2020年）
• duv_physionet.py and duv_utils.py Physionet数据集（相同的拆分）来自Rubanova等。 （2019）

用法

除以下三个标志外，所有培训脚本

• no_gate在没有（1- sigmoid）部分的情况下运行CFC
• minimal运行CFC直接解决方案
• use_ltc使用半密码ode求解器而不是CFC运行LTC
• use_mixed将CFC的RNN状态与LSTM混合在一起，以避免消失的梯度

如果未提供这些标志，则使用完整的CFC模型

例如

python3 train_physio.py

在Physionet数据集上训练完整的CFC模型。

相似地

train_walker.py --minimal

在Walker2D数据集上运行直接的CFC解决方案。

用于下载Lechner＆Hasani 2020的Walker2D数据集，运行

 source download_dataset.sh

引用

 @article{hasani_closed-form_2022,
	title = {Closed-form continuous-time neural networks},
	journal = {Nature Machine Intelligence},
	author = {Hasani, Ramin and Lechner, Mathias and Amini, Alexander and Liebenwein, Lucas and Ray, Aaron and Tschaikowski, Max and Teschl, Gerald and Rus, Daniela},
	issn = {2522-5839},
	month = nov,
	year = {2022},
}