ollama java

عميل Ollama Java

الوحدات النمطية

• Ollama-Java-Client-مكتبة عميل Ollama Java
• Ollama-Java-Client-Starter-بداية العميل Java SPRING BOOT 3
• Spring-boot-ollama-sample-تطبيق عينة من SPRING BOOT 3 باستخدام ollama java client spring boot 3 starter

وصف النموذج

Ollamaservice

توفر واجهة Ollamaservice التفاعل مع خدمة الويب Ollama.

 public interface OllamaService {
    CompletionResponse completion ( CompletionRequest completionRequest );

    TagsResponse getTags ();

    ShowResponse show ( ShowRequest showRequest );

    void copy ( CopyRequest copyRequest );

    void delete ( String modelName );

    void streamingCompletion ( CompletionRequest completionRequest , StreamResponseProcessor < String > handler );

    EmbeddingResponse embed ( EmbeddingRequest embeddingRequest );
}

Ollamaservicefactory

فئة OllamaserviceFactory هي المسؤولة عن إنشاء مثيلات من OllamaService . يوفر أساليب البناء لإنشاء مثيل للخدمة مع التكوين المحدد.

 public class OllamaServiceFactory {
    public static OllamaService create ( OllamaProperties properties ) { // ...
    }

    public static OllamaService create ( OllamaProperties properties , Gson gson ) { // ...
    }
}

StreamResponseProcessor

توفر واجهة StreamResponseProcessor أساليب لمعالجة استجابات الانتهاء.

 public interface StreamResponseProcessor < T > {
    void processStreamItem ( T item );

    void processCompletion ( T fullResponse );

    void processError ( Throwable throwable );
}

كيفية استخدام

فقط قم بإنشاء مثيل من OllamaService مع المصنع واستخدامه.

ألق نظرة على هنا

أو إلقاء نظرة على مشروع عينة SPRING-BOOT-ALLAMA.

موارد مفيدة

API Doc

https://github.com/jmorganca/ollama/blob/main/docs/api.md

تثبيت Linux

https://github.com/jmorganca/ollama/blob/main/docs/linux.md

$ curl https://ollama.ai/install.sh | sh
>>> Installing ollama to /usr/local/bin...
>>> Creating ollama user...
>>> Adding current user to ollama group...
>>> Creating ollama systemd service...
>>> Enabling and starting ollama service...
Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service.
>>> NVIDIA GPU installed.

اختبار عنوان URL

 # open http://localhost:11434/ 
# or via curl    
$ curl http://localhost:11434/api/tags

نموذج 7 ب instal mistral

$ ollama run mistral

عرض سجلات

لعرض سجلات تشغيل Ollama كخدمة بدء تشغيل ، قم بتشغيل:

$ journalctl -u ollama

إلغاء التثبيت

قم بإزالة خدمة Ollama:

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

قم بإزالة ثنائي Ollama من دليل bin الخاص بك (إما /usr /local /bin ، /usr /bin ، أو /bin):

sudo rm $( which ollama )

قم بإزالة النماذج التي تم تنزيلها ومستخدم خدمة Ollama:

sudo rm -r /usr/share/ollama
sudo userdel ollama