TONNXRuntime

Microsoft onnxruntime ai and Machine Learning Library for Freepascal / Delphi

導入

これは、MicrosoftのOpen Neural Network Exchange（onnxruntime）のFreepascalの実装ですか？そしてdelphi⚔️

onnxruntimeライブラリには、 Windows 8後に最新のWindowsリリースのほとんどが付属しています。これは書かれている時点で、バージョン1.13.1は最新のリリースであり、 MacosおよびLinuxリリースのほとんどにインストールできます。

ライブラリをインストールする方法

Windows

onnxruntime.dllすでにWindowsで出荷されています。 %WINDIR%SysWOW64onnxruntime.dllまたは%WINDIR%System32onnxruntime.dllで見つけることができます。

macosとLinux

https://github.com/microsoft/onnxruntime/releasesを確認してください

使用法

パスカルユニットのヘッダーにあるラザロまたはデルファイプロジェクトからファイルが含まれています

 unit formUnit; 
{ $h+ }

interface
uses onnxruntime_pas_api, onnxruntime, Classes etc... ;

モデルをロードします

 var 
  session : TORTSession;
begin
  session := TORTSession.Create( ' ./mymodel/filname.onnx ' ); 
{ 
*****************************************************************
    Check your model requirements for input/output 
    names and value dimensions before preparing the inputs.
    to explore the model before preparing use :
      session.GetInputCount and session.GetOutputCount
      session.GetInputName and session.GetOutputName
      session.GetInputTypeInfo and session.GetOutputTypeInfo
 ****************************************************************
} 

TORTTensor<type>を使用して目的の形状を使用して入力テンソルを準備し、 TORTNameValueListを使用して入力します

 var 
  x,y:integer;
  imageData : array of array of single;
  inTensor : TORTTensor<single> ; 
  inputs : TORTNameValueList  ;
begin
  // assuming the model input name is 'image' and the tensor shape is [width, height]
  inTensor := TORTTensor<single>.Create([width, height { , depth ,etc... } ]);
  for y:= 0 to inTensor.shape[ 1 ]- 1 do
      for x:= 0 to inTensor.shape[ 0 ]- 1 do
          inTensor.index2[x, y]:= imageData[x, y];  // your float values
  inputs[ ' image ' ] := inTensor;        

推論

  var
    myDetection : array of single;
    i:integer;
    outputs : TORTNameValueList;
    outTensor : TORTTensor<single>
  begin 
      outputs   := session.run(inputs);
      outTensor := outputs[ ' result ' ]
     
      for i:= 0 to outTensor.shape[ 0 ] do
        myDetection[i] := outTensor.index1[i]

トレーニング

他の例はすぐに来ます。

例

• CPU：rcnn10のより高速なフォルダー

  ここからFasterRCNN-10.onnxをダウンロードしてください

• GPU：Yolo V7（DirectML）フォルダー

  ここからyolov7_640x640.onnxをダウンロードして抽出します

onnxruntime APIの詳細

• onnxruntime APIドキュメントを確認してください

---

貢献と提案は大歓迎です。