pytorch loss

Pytorch-Loss

My implementation of label-smooth, amsoftmax, partial-fc, focal-loss, dual-focal-loss, triplet-loss, giou/diou/ciou-loss/func, affinity-loss, pc_softmax_cross_entropy, ohem-loss(softmax based on line hard mining loss), large-margin-softmax(bmvc2019), lovasz-softmax-loss, e perda de dados (perda de dados macios generalizados e perda de dados macios em lote). Talvez isso seja útil no meu trabalho futuro.

Também tentei implementar funções de ativação Swish, Hard-Swish (HSWISH) e mish.

Além disso, é adicionada uma função única baseada em CUDA (rótulo de suporte liso).

Adicione recentemente um operador "média móvel exponencial (EMA)".

Adicione operações de convolução, como Coord-Conv2D e Dynamic-ConV2D (DY-CONV2D).

Alguns operadores são implementados com a extensão Pytorch CUDA, então você precisa compilá -lo primeiro:

    $ python -m pip install .

Depois de instalar, agora você pode pegar o que precisa e usar as perdas ou operações como uma de Thes:

 from pytorch_loss import SwishV1 , SwishV2 , SwishV3
from pytorch_loss import HSwishV1 , HSwishV2 , HSwishV3
from pytorch_loss import MishV1 , MishV2 , MishV3
from pytorch_loss import convert_to_one_hot , convert_to_one_hot_cu , OnehotEncoder
from pytorch_loss import EMA

from pytorch_loss import TripletLoss
from pytorch_loss import SoftDiceLossV1 , SoftDiceLossV2 , SoftDiceLossV3
from pytorch_loss import PCSoftmaxCrossEntropyV1 , PCSoftmaxCrossEntropyV2
from pytorch_loss import LargeMarginSoftmaxV1 , LargeMarginSoftmaxV2 , LargeMarginSoftmaxV3
from pytorch_loss import LabelSmoothSoftmaxCEV1 , LabelSmoothSoftmaxCEV2 , LabelSmoothSoftmaxCEV3
from pytorch_loss import GIOULoss , DIOULoss , CIOULoss
from pytorch_loss import iou_func , giou_func , diou_func , ciou_func
from pytorch_loss import FocalLossV1 , FocalLossV2 , FocalLossV3
from pytorch_loss import Dual_Focal_loss
from pytorch_loss import GeneralizedSoftDiceLoss , BatchSoftDiceLoss
from pytorch_loss import AMSoftmax
from pytorch_loss import AffinityFieldLoss , AffinityLoss
from pytorch_loss import OhemCELoss , OhemLargeMarginLoss
from pytorch_loss import LovaszSoftmaxV1 , LovaszSoftmaxV3
from pytorch_loss import TaylorCrossEntropyLossV1 , TaylorCrossEntropyLossV3
from pytorch_loss import InfoNceDist
from pytorch_loss import PartialFCAMSoftmax

from pytorch_loss import TaylorSoftmaxV1 , TaylorSoftmaxV3
from pytorch_loss import LogTaylorSoftmaxV1 , LogTaylorSoftmaxV3

from pytorch_loss import CoordConv2d , DY_Conv2d

Note that some losses or ops have 3 versions, like LabelSmoothSoftmaxCEV1 , LabelSmoothSoftmaxCEV2 , LabelSmoothSoftmaxCEV3 , here V1 means the implementation with pure pytorch ops and use torch.autograd for backward computation, V2 means implementation with pure pytorch ops but use self-derived formula for backward computation, and V3 means implementation with cuda extensão. De um modo geral, as operações V3 são mais rápidas e mais eficientes na memória, pois tentei espremer tudo em uma função de kernel Cuda, que na maioria dos casos traz menos sobrecarga do que uma combinação de Pytorch Ops.

Para aqueles que encontram esse repositório, se você vir erros no meu código, sinta -se à vontade para abrir um problema para me corrigir.