TimeDiffusion

Timediffusion - Unified Framework для нескольких временных рядов задач

Поддерживает данные 2D (изображение) и 3D (видео) в качестве входных данных для исследовательских целей.

Содержимое

• Установить
• Быстрый старт
• Примеры
• Философия
• Базовые модели
• Модель архитектура

Установить

pip install timediffusion

Быстрый старт

Прогнозирование временных рядов

 # train sequence in shape [channels, sequence_length]
model = TD ( input_dims = train . shape ). to ( device = device )
training_losses = model . fit ( train )
# horizon : int - how many future values to forecast
predictions = model . forecast ( horizon )

Создание синтетических временных рядов

 # sequence in shape [channels, sequence_length]
model = TD ( input_dims = seq . shape ). to ( device = device )
training_losses = model . fit ( seq )
# proximity - how close to original, samples - total synthetic time series
synthetic_data = model . synth ( proximity = 0.9 , samples = 3 , batch_size = 2 , step_granulation = 10 )

Временное вменение временных рядов

 # sequence in shape [channels, sequence_length]
model = TD ( input_dims = seq . shape ). to ( device = device )
# mask - binary array of same shape, as sequence, with 1 in positions, that are unknown
training_losses = model . fit ( seq , mask = mask )
restored_seq = model . restore ( example = seq , mask = mask )

Примеры

Временные ряды: пример нескольких задач

Прогнозирование примера цены биткойнов

Философия

Основной синопсис модели TimeDiffusion заключается в том, что в действительности, когда у нас не так много образцов, как это может быть в других областях машинного обучения (например, CV, NLP). Таким образом, классические авторегрессивные подходы, такие как ARIMA, имеют наиболее подходящий подход к подгонке / обучению только по исходной последовательности (возможно, с некоторыми экзогенными данными).

Timediffusion черпает вдохновение из этих установленных методов и только поезда на входной выборке. Модель включает в себя наиболее мощные современные методы глубокого обучения, такие как процесс диффузии, экспоненциальные расширенные совет, остаточные связи и механизм внимания (в одной из версий)

Базовые модели

• TimeDiffusionProjector - экспоненциальные расширенные контуляции + остаточные соединения.

В настоящее время основная модель используется

• TimeDiffusionAttention - Механизм внимания в верхней части проекторов TimeDiffusionProjector (Q, K, V).

В настоящее время не жизнеспособен

• TimeDiffusionLiquid - экспоненциальные расширенные свертки с общим весом среднего сверточного слоя.

Легкий, быстрый, но менее точный, чем основная модель.

Модель архитектура

Ниже представлены диаграммы, изображающие компоненты модели, каждая новая схема, представляющая более высокий уровень абстракции.

• Временный блок

• TimediffusionProjector

• TimediffusionAttention