LlamaChat下載 - LlamaChat源代碼下載

下載

Llamachat橫幅

Llamachat是一個MacOS應用程序，可讓您與Llama，羊駝和GPT4All模型聊天，這些模型均在Mac上本地運行。

入門

Llamachat需要Macos 13 Ventura，以及Intel或Apple Silicon處理器。

在此處下載包含最新版本的.dmg 。

git clone https://github.com/alexrozanski/LlamaChat.git
cd LlamaChat
open LlamaChat.xcodeproj

注意： Llamachat包括用於自動匯款的閃光，如果沒有簽署Llamachat，它們將無法加載。確保在建造和運行Llamachat時使用有效的簽名證書。

注意：模型推理在調試構建中非常緩慢地運行，因此，如果從源構建構建，請確保Llamachat中的Build Configuration LlamaChat > Edit Scheme... > Run設置為Release 。

支持的模型： Llamachat開箱即用支持Llama，羊駝和GPT4All模型。對包括Vicuna和Koala在內的其他模型的支持即將推出。我們還在尋找中國和法語的人，以增加對中國駱駝/羊駝和維格尼的支持。
靈活的模型格式： Llamachat建立在Llama.cpp和Llama.swift的頂部。該應用程序支持在其原始的.pth Pytorch檢查點表單或.ggml格式中添加Llama型號。
模型轉換：如果添加了原始的Pytorch檢查點，則可以將其轉換為與Llamachat和Llamachat和Llama.cpp兼容的.ggml文件。
聊天歷史記錄：聊天歷史記錄在應用程序中持續存在。聊天歷史記錄和模型上下文都可以隨時清除。
時髦的化身： Llamachat船上，可以與您的聊天來源一起使用7個時髦的化身。
高級源命名： Llamachat使用Special Magic™為您的聊天來源生成嬉戲的名字。
上下文調試：對於敏銳的ML愛好者，可以在Info Popover中查看當前的模型上下文。

注意： Llamachat不使用任何型號文件運送，並且要求您根據各自的條款和條件從各個來源獲得這些文件。

模型格式： Llamachat允許您使用其原始Python檢查點表格（ .pth ）或預轉換的.ggml文件（Llama.cpp使用的格式）中使用Llama模型家族。
使用Llama模型：以.pth格式導入Llama模型時：
- 您應該在轉換流中選擇適當的參數大小目錄（例如7B ， 13B等），其中包括consolidated.NN.pth和params.json文件。
- 根據Llama模型發布，父目錄應包含tokenizer.model 。例如，要使用Llama-13b模型，您的模型目錄應該看起來像以下內容，並且應該選擇13B目錄：

 .
│   ...
├── 13B
│   ├── checklist.chk.txt
│   ├── consolidated.00.pth
│   ├── consolidated.01.pth
│   └── params.json
│   ...
└── tokenizer.model

故障排除：如果使用.ggml文件，請確保這些文件是最新的。如果遇到問題，則可能需要使用Llama.cpp的轉換腳本：
- 對於GPT4All型號，您可能需要使用convert-gpt4all to-ggml.py
- 對於羊駝模型，您可能需要使用轉換 - gggml-to-ggml.py.py
- 您也可能需要使用Migrate-GGML-2023-03-30-PR613.PY。有關更多信息，請查看Llama.cpp回購。