LLMS
介绍
本指南是针对具有苹果硅设备的用户量身定制的，该设备有兴趣尝试大型语言模型（LLMS）。它包括关键存储库和资源的摘要，重点介绍了针对Apple Silicon硬件优化的资源。该指南涵盖了各种主题，包括检索演示的生成（RAG），培训和微调LLM，视觉语言模型（VLM），数据集和用户界面（UI）。每个部分都提供指向存储库和工具的链接，可帮助用户有效地在其Apple Silicon设备上探索和实现LLMS。 
检索授课（RAG）存储库：
chatllm.cpp
- 存储库：chatllm.cpp
- 摘要：此存储库包括使用LLMS实施检索型生成（RAG）模型的文档和代码，提供了将检索机制与语言模型集成的指南和示例。
Modelscope抹布
- 存储库：Modelscope抹布
- 摘要：本jupyter笔记本提供了使用LlamainDex库重新播放抹布的教程。它展示了如何使用排名机制来增强基于检索的生成，以提高性能。
Quad-ai抹布
- 存储库：Quad-ai抹布
- 摘要：本笔记本显示了使用Llama.cpp实施抹布以进行有效的信息检索和响应生成。它包括分步说明和代码片段。
MLX RAG GGUF
- 存储库：MLX RAG GGUF
- 摘要：此存储库包含用于使用MLX框架使用GGUF嵌入的抹布的代码和文档。它着重于整合各种嵌入技术以增强检索。
鞭流嵌入
- 存储库：鞭毛嵌入
- 摘要：存储库提供了将生成和集成嵌入到检索功能的生成系统中的工具和方法。它包括用于嵌入任务的各种模型和技术。
LM鸡尾酒
- 存储库：LM鸡尾酒
- 摘要：该项目着重于结合不同的嵌入技术和模型，以创建一个可靠的检索系统，以增强生成任务。它包括各种配置和示例。
OSX苹果硅：
OSX苹果硅要点
- 存储库：OSX Apple Silicon Gist
- 摘要：GIST为在Apple Silicon设备上运行MLX模型提供详细的步骤和配置，包括设置说明和性能提示。
拥抱面孔MLX模型
- 存储库：拥抱面部MLX模型
- 摘要：针对MLX优化的模型集合，可在拥抱面上可用。该存储库提供了适用于不同ML任务的各种模型，可针对性能和效率进行优化。
MLX示例
- 存储库：MLX示例
- 摘要：此存储库包含MLX模型的示例实现和用例，包括用于各种ML任务的分步指南和代码片段。
PHI-3 Vision MLX
- 存储库：PHI-3 Vision MLX
- 摘要：一个展示视觉模型与MLX框架集成的项目，为与视觉相关的任务提供了示例和实现细节。
利姆
- 存储库：lilm
- 摘要：该存储库专注于为低资源设置实施和优化语言模型，利用MLX框架在Apple Silicon设备上增强性能。
ML稳定扩散
- 存储库：ML稳定扩散
- 摘要：一个专门针对苹果硅实施和优化稳定扩散模型的项目，解决绩效问题并提供有效执行的解决方案。
MLX Lora微调
- 存储库：MLX Lora微调
- 摘要：使用LORA在MLX框架中使用LORA进行微调模型的文档和代码，提供分步说明和示例。
MLX讨论
- 存储库：MLX讨论
- 摘要：讨论MLX框架各个方面的论坛，包括使用技巧，故障排除和社区贡献。
Nanogpt MLX
- 存储库：Nanogpt MLX
- 摘要：针对MLX框架优化的GPT模型的最小实现，为快速设置和执行提供了代码和文档。
LM评估安全带
- 存储库：LM评估安全带
- 摘要：用于评估语言模型的工具和基准，包括各种任务的标准化测试和性能指标。
pikagpt
- 存储库：Pikagpt
- 摘要：针对Apple Silicon设备上的效率和性能优化的GPT模型的轻巧实施，提供了示例和设置说明。
本地LLM培训苹果硅
- 存储库：本地LLM培训苹果硅
- 摘要：一个重点是培训Apple Silicon设备上的本地LLM的项目，为设置和执行提供代码和文档。
MLX注释
- 存储库：MLX注释
- 摘要：使用MLX框架的注释和指南集合，涵盖了从设置到高级用法的各个方面。
洛拉·盖斯特（Lora Gist）
- 存储库：Lora Gist
- 摘要：GIST使用LORA为微调模型提供详细说明，包括代码片段和设置提示。
Llama3 MAC硅示例
- 存储库：LLAMA3 MAC硅示例
- 摘要：一个示例笔记本，演示了MAC硅上使用Llama3模型的使用，包括设置，执行和性能提示。
深入研究MLX的AI
- 存储库：深入使用MLX进入AI
- 摘要：使用MLX框架深入AI的综合指南和教程，涵盖了各种模型和用例。
视觉模型（VLM）：
MLX Llava Finetuning
- 存储库：MLX LLAVA FINETUNING
- 摘要：使用MLX框架专注于微调视觉语言模型的存储库，提供示例和详细说明。
兔子
- 存储库：兔子
- 摘要：一个致力于开发和优化视觉模型的项目，为各种任务提供代码，文档和示例。
洛拉/培训/微调：
Interlm生态系统
- 存储库：Interlm生态系统
- 摘要：用于集成和使用InternLM模型在各种生态系统中的文档和代码，重点介绍培训和微调。
internlm微调
- 存储库：internlm微调
- 摘要：一个存储库，为微调实习生模型提供详细说明和代码，包括设置和执行指南。
ModelsCope Swift
- 存储库：ModelsCope Swift
- 摘要：一个用于使用Swift框架优化和部署模型的项目，为各种任务提供了示例和文档。
litgpt
- 存储库：litgpt
- 摘要：一个旨在使用闪电框架实施和优化GPT模型的存储库，提供示例和详细说明用于培训和微调。
数据集：
大锅
- 存储库：大锅
- 摘要：一个有关拥抱面孔的数据集存储库，提供了用于培训和评估机器学习模型的数据集的集合，包括详细的描述和使用指南。
GUI：
Librechat
- 存储库：librechat
- 摘要：Librechat是一个开源项目，用于构建和管理语言模型的聊天接口，为各种平台提供可自定义的功能和集成选项。
Docker等
- 啤酒安装Llama.cpp
- LLAMA-CLI-HF-REPO访问-VB/META-LLAMA-3.1-8B-INSTRUCT-Q6_K-GGUF-HF-FILE META-LLAMA-3.1-8B-3.1-8B-INSTRUCT-INSTRUCT-Q6_K.GGUF -P“ SUP” SUP？ -ctx-size 8192
该模型使用〜7.0GB RAM。
声音的
MLX电动视频转录
- 存储库：https：//github.com/rayfernando1337/mlx-auto-subtitled-video-generator/
- 摘要：此简化应用程序允许用户使用Apple的MLX Framework上传视频文件并生成准确的成绩单
未分类
- https://github.com/linyilyi/bilibot/tree/main
- https://github.com/harperreed/photo-simurility-search
- https://github.com/hiyouga/llama-factory
- https://github.com/ininscruptlab/instructlab
- https://github.com/modelscope/swift -https：//github.com/lyogavin/airllm/blob/main/main/air_llm/examples/run_on_on_macos.ipynb
