หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>โค้ดแหล่งที่มา AI
ดาวน์โหลด

ลูกค้า Ollama Java

โมดูล

  • Ollama-Java-Client-ห้องสมุดลูกค้า Ollama Java
  • Ollama-Java-Client-Starter-Ollama Java Client Spring Boot 3 Starter
  • SPRING-BOOT-OLLAMA-SAMPLE-แอปพลิเคชั่น SPRING BOOT 3 ตัวอย่างโดยใช้ Ollama Java Client Spring Boot 3 Starter

คำอธิบายรุ่น

Ollamaservice

อินเทอร์เฟซ Ollamaservice ให้การโต้ตอบกับ Ollama Web Service 

 public interface OllamaService {
    CompletionResponse completion ( CompletionRequest completionRequest );

    TagsResponse getTags ();

    ShowResponse show ( ShowRequest showRequest );

    void copy ( CopyRequest copyRequest );

    void delete ( String modelName );

    void streamingCompletion ( CompletionRequest completionRequest , StreamResponseProcessor < String > handler );

    EmbeddingResponse embed ( EmbeddingRequest embeddingRequest );
}

OllamaserviceFactory

คลาส OllamaserviceFactory มีหน้าที่รับผิดชอบในการสร้างอินสแตนซ์ของ OllamaService มันมีวิธีการสร้างเพื่อสร้างอินสแตนซ์ของบริการด้วยการกำหนดค่าที่ระบุ 

 public class OllamaServiceFactory {
    public static OllamaService create ( OllamaProperties properties ) { // ...
    }

    public static OllamaService create ( OllamaProperties properties , Gson gson ) { // ...
    }
}

StreamresponseProcessor

อินเทอร์เฟซ StreamResponseProcessor มีวิธีการในการประมวลผลการตอบสนองการสตรีม 

 public interface StreamResponseProcessor < T > {
    void processStreamItem ( T item );

    void processCompletion ( T fullResponse );

    void processError ( Throwable throwable );
}

วิธีใช้

เพียงสร้างอินสแตนซ์ของ OllamaService กับโรงงานและใช้งาน

ดูที่นี่

หรือดูโครงการ Spring-Boot-ollama-Sample

ทรัพยากรที่มีประโยชน์

API Doc

https://github.com/jmorganca/ollama/blob/main/docs/api.md

การติดตั้ง Linux

https://github.com/jmorganca/ollama/blob/main/docs/linux.md 

$ curl https://ollama.ai/install.sh | sh
>>> Installing ollama to /usr/local/bin...
>>> Creating ollama user...
>>> Adding current user to ollama group...
>>> Creating ollama systemd service...
>>> Enabling and starting ollama service...
Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service.
>>> NVIDIA GPU installed.

ทดสอบ URL 

 # open http://localhost:11434/ 
# or via curl    
$ curl http://localhost:11434/api/tags

Instal Mistral 7B โมเดล 

$ ollama run mistral

การดูบันทึก

หากต้องการดูบันทึกของ Ollama ที่ทำงานเป็นบริการเริ่มต้นให้เรียกใช้: 

$ journalctl -u ollama

ถอนการติดตั้ง

ลบบริการ Ollama: 

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

ลบ Ollama Binary ออกจากไดเรกทอรีถังขยะของคุณ (ทั้ง /usr /local /bin, /usr /bin, หรือ /bin): 

sudo rm $( which ollama )

ลบผู้ใช้บริการที่ดาวน์โหลดและ Ollama Service: 

sudo rm -r /usr/share/ollama
sudo userdel ollama
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด