很棒的生成AI遇到朱莉婭編程語言
與朱莉婭相關的/for/for/for/for/for/for/for/for Julia的綜合指南。
朱莉婭（Julia）是一種用於技術計算的高級高性能動態語言。
生成的AI涵蓋了利用大規模機器學習的算法和模型，以生成新內容（跨許多模式），自動化，理解，解析，提取等，並適應超出內容創建內容以外的廣泛應用程序。
內容
- 生成的AI項目和朱莉婭
- 型號
- API SDK
- 模型提供商
- 雲服務提供商
- 向量數據庫
- 具有向量指數支持的通用DBM
- 軟件包
- JLL軟件包
- 基準/比較
- 應用/產品
- 教程/學習
- 值得注意的提及
- 必須知道的Python項目
- 其他很棒的列表
生成的AI項目和朱莉婭
- Juliagenai組織 - 一個GitHub組織和朱莉婭開發人員和研究人員的社區。
型號
在朱莉婭（Julia）建立，訓練和部署大型語言模型（以及其他方式）。
- Flux.jl -Flux是朱莉婭的機器學習庫，它具有靈活性並允許構建複雜的模型。但是，在撰寫本文時，我不知道是否有任何大型語言模型（LLM）已在不斷變化中實施和培訓。
- Transformers.jl-Transformers.jl是一個Julia軟件包，提供了用於使用預訓練的變壓器模型的高級API。它還允許使用
@hgf_str宏字符串從擁抱臉部集線器中下載任何型號。 - Pickle.jl-將Pytorch重量加載到Julia的絕佳包裝（如果您想自己實現模型）。
- bytepairencoding.jl-字節對編碼（BPE）算法的純Julia實現。它被Transformer.jl使用用於tokenize文本。
- llama2.jl -llama2.jl提供了基於llama2.c的基於Llama2語言模型的推理和培訓的簡單代碼。它支持GGUF格式（
q4_K_S變體）的加載量化權重。其他類似的項目：languagemodels.jl - Llama.jl-朱莉婭接口到Llama.cpp，一個在本地運行語言模型的C/C ++庫。支持廣泛的模型。
- hisper.jl-朱莉婭（Julia）接口whisper.cpp，這是Openai的Whisper自動語音識別（ASR）模型的C/C ++的高性能推論。
API SDK
模型提供商
通過官方API訪問生成AI模型。
- Openai.jl-一個社區維護了OpenAI API的朱莉婭包裝。
雲服務提供商
通過流行的雲服務提供商的SDK訪問生成AI模型。
- GoogleCloud.jl- Google Cloud的SDK。有一個開放的PR來啟用頂點AI端點。
- GoogleGenai.jl- Google Gemini API的非官方包裝器。
向量數據庫
- pinecone.jl- pinecone.io vector數據庫的SDK。
具有向量指數支持的通用DBM
| 姓名 | 朱莉婭客戶 | 用法示例 |
|---|
| Elasticsearch | elasticsearchclient.jl | gptseachplugin與Elasticsearch |
| OpenSearch | elasticsearchclient.jl | gptseachplugin和Opensearch |
| PostgreSQL + PGVECTOR | libpq.jl | Julia的PGVECTOR示例 |
軟件包
- replgpt.jl-將chatgpt接口作為朱莉婭替補模式。
- helpgpt.jl-調用chatgpt解釋朱莉婭代碼中的任何錯誤。
- gengpt3.jl-包裹OpenAI API的Gen.jl生成函數。
- 提示tools.jl-通過包裝即將到來的API，通過模板重新使用提示，並在不同的模型提供商之間輕鬆過渡（例如，EG，OpenAI，Ollama），通過包裝即將到來的提示來幫助朱莉婭的大型語言模型的日常應用。 （免責聲明：我是此軟件包的作者。）
- llmtextanalysis.jl-利用大型語言模型在大型文檔集合中發現，評估和標記主題/概念/光譜。 （免責聲明：我是此軟件包的作者。）
- Aihelpme.jl-通過利用包裝文檔（檢索增強生成）來增強AI代碼的幫助。預先包裝用於常見的Julia軟件包，但可用於任何軟件包。
- aihelpui.jl-基於aihelpme.jl的基於Web的圖形接口，構建在stipple.jl頂部。
- Protoportal.jl-提示tools.jl的基於Web的圖形接口，具有額外的提示模板和功能（Julia Code執行和自動固定，元數據啟動，自動批評，語音到文本輸入）。類似於Chatgpt，但針對Julia。
JLL軟件包
jll是預先建立的庫和可執行文件，可輕鬆安裝和調用非朱利婭項目（例如，c/c ++）。通常，它們是邁向帶有慣用界面的朱莉婭軟件包的第一步。
- llama_cpp_jll.jl- llama.cpp的jll軟件包，量化llama2風格型號的最佳接口。
基準/比較
- Julia LLM排行榜 - 在一系列任務中各種大型語言模型的Julia語言生成功能的比較。如果您想幫助選擇適合應用程序的模型，請訪問。
- Humaneval.jl-朱莉婭（Julia）的Openai/Human -Eval版本。它將原始的Python問題重寫為Julia版本，並通過幾個最新的LLM提供評估結果。
應用/產品
使用朱莉婭語言“起作用”的應用和產品。
- GitHub副駕駛儀 - 借助OpenAI模型，出色的內聯建議。它與Julia語言的重複任務非常有效，一次是一行，但是較大的代碼塊很少正確。
- Codium.AI-大IDE或VSCODE插件，用於代碼分析，建議和生成測試套件。儘管測試的寫作更多的是用pytest而不是慣用的朱莉婭（Julia）編寫。它有一個免費的層。
- REPLIT- REPLIT的REPL由支持Julia語言的內部模型提供動力。
- Codeium-大多數編輯者的GitHub副副詞的免費替代品。
- 光標 - 基於AI驅動代碼完成和建議的VSCODE的替代IDE。它與朱莉婭的語言非常好。
使用LLMS的Julia附屬應用和產品
- Juliahub Askai -Askai是Juliahub的抹布（檢索增強生成）應用程序，允許用戶詢問有關Julia語言及其生態系統的問題。它是免費的，但是您需要登錄到朱利亞霍（Juliahub）才能使用它。
- Genie UI助理-Genie UI助理是GPT -4供電UI構建器，幫助Genie.jl的用戶使用自然語言更快地創建UIS。
- Comind-朱莉婭（Julia）建造的社交網絡，消息傳遞和LLM界面。
候診室
仍在等待證明自己並收集足夠明星的新項目。
- flashrank.jl-快速和本地文檔排名，可以在任何計算機上運行的模型（基於CPU）。基於Python的閃存車。
- semanticcaches.jl-具有微小嵌入模型的Genai應用程序的智能緩存 - 一次降低延遲，一次請求。
- Spehulak.jl-用於調試LLM電話的Genai可觀察性平台。與stressingtools.jl完全集成。
未發行，實驗性但功能性：
- MILVUS.JL-朱莉婭（Julia）Milvus Vectordb客戶的最低限度和非正式實施。
存檔的項目
- gptcodingtools.jl-具有有用的及時模板和自我修復功能（ALA OpenAI代碼解釋器）的Julia語言代碼生成工具。它確實有效，但是發展已被放棄。 （免責聲明：我是此軟件包的作者。）
教程/學習
- 使用LLM與Transformers.jl一起使用的教程 - 關於如何使用Transformers.jl從HuggingFace Hub訪問LLMS的簡短教程。
- 通過dataframes.jl文檔構建抹布聊天機器人 - 動手指南 - 關於如何僅使用最小依賴項在dataframes.jl文檔上構建抹布聊天機器人的動手指南。
- Genai Mini任務：從（。*）提取數據？別再看！ - 關於結構化數據提取的教程。 Genai可以完成的有關小型任務的大型教程的一部分。
- 微小的二進制抹布 - 關於語義搜索的極好的深度深度（抹布中的“ R”）。它顯示出有100行Julia，您可以在<20ms中搜索15m的塊（〜Wikipedia的大小）。
值得注意的提及
以下某些項目不一定是朱莉婭（Julia）特定的，但值得注意的是在生成的AI空間中提到，對朱莉婭（Julia）開發人員來說很有趣。
本地部署
- Ollama-對於那些希望在當地舉辦大型語言模型的人來說，這是最佳選擇。只需啟動服務器並使用http.jl發送請求。
- LM Studio-一個用於託管和與LLMS互動的桌面應用程序。對於那些想使用LLM而不編碼的人來說，這是一個不錯的選擇。它是免費的。
生成AI-上一代
- GenerativeModels.jl-有用的庫來培訓更多傳統的生成模型，例如VAE。它建在flux.jl.
###有用的實用程序
- stipple.jl-用於在純Julia（genie.jl生態系統的一部分）中構建交互式數據應用程序。非常適合用於Genai應用的基於Web的界面。
- TARO.JL-各種文檔的功能強大解析器（與Java Interop）。對於構建檢索提示的生成（RAG）應用非常有用。
必須知道的Python項目
Python處於生成AI革命的前沿。幸運的是，我們有pythoncall.jl允許我們輕鬆調用以下所有Python軟件包。
- HuggingFace Transformers - 最受歡迎的庫，用於訪問LLM和其他型號。它可以主要通過transformer.jl（見上文）使用。
- Langchain-在LLMS之上構建應用程序的最佳選擇（例如，鏈，代理商）。它具有許多用於常見模型，數據庫和其他服務的適配器。
- LLAMA指數 - 類似於Langchain，但重點關注以數據為中心的應用程序。
- 講師 - OpenAI API頂部的簡單但功能強大的結構化提取框架。非常適合了解功能與Pydantic一起致電API的力量。
- Marvin-強大的構建塊可以快速構建AI應用程序並通過準備生產的API暴露它們。
- 打開解釋器 - 讓LLMS在計算機上運行代碼（例如Python，JavaScript，Shell等）。 OpenAI代碼解釋器的開源本地替代方案。
其他很棒的列表
- 很棒的生成AI-所有生成AI的好列表。這個列表的靈感！
