dolly expert lite
1.0.0
| 标题 | app_file | SDK | sdk_version |
|---|---|---|---|
Dolly-Expert-构建器 | app.py | Gradio | 3.34.0 |
轻量级的Dolly-V2助手，可以回答特定领域的问题并进行对话。它是LLM时代的专家系统。
提交给“因此您认为自己可以黑客”：开放源LLM（例如，开放式llms（例如OpenAssistant，MPT，Dolly等）DevPost Hackathon。
专家系统曾经在人工智能方面很大。他们模仿了特定领域的人类专家的决策能力，并且在许多用例中可以提供大量价值。老式专家系统的主要缺点是必须使用布尔语句或类似逻辑对其进行编程，以花费大量时间和资源。在许多情况下，这种方法击败了为手头任务提供便利的专家的目的。
封闭源的LLM应用程序（例如ChatGpt3.5和Chatgpt-4）是巨大的型号，非常好的任务。他们确实有限制，例如幻觉，当他们不知道如何响应或答案在线何时并且无法访问互联网或文件时。有时，这些幻觉将以非常有说服力的方式讲述，每当试图实施它们时，它们都将是虚假或不正确的。这些模型具有巨大的上下文窗口，因此人们可以通过提供大量信息并实施及时的工程技术来帮助他们完成自己努力的任务。这使得只有封闭源代码的大公司才能开发和部署LLM应用程序。
Dolly Expert Lite利用Dolly-V2-3B，Dolly-V2-12B的轻量级版本，Dolly-V2-12B，一种开源的大语言模型（LLM），可以使用定制矢量数据库中的检索来回答特定领域的问题。在此示例部署中，Dolly-Expert-Builder从安大略省（加拿大）建筑法规检索信息，以根据官方政府法规回答有关建筑，管道，电气接线和通风的特定问题。 Dolly-expert-Builder可以提供一致且实际上正确的信息，并可以作为适合商人的指导（水管工，电工，机械师，房屋建筑商），工程师和建筑师在执行工作时协助调节合规性。
通过遵循这种方法，个人和组织可以使用其本地数据使专家助理能够回答特定领域的问题。可能的用例包括：
由于工具是如此新，因此某些与标准用例的分歧会导致错误。例如：
persists_directory时，它部分保存了，并且以后不会在单独的实例中加载，因为.persists（）方法未调用。这必须重做并再次承诺，以使数据库最终可用。能够使用诸如Dolly之类的开源模型制作LLM应用程序的功能轻巧原型，并将其部署为拥抱面空间。能够证明LLM应用程序适用于每个人，并且开源生态系统与封闭式先驱者一样有能力。
就一般软件开发知识而言，我学会了对彼此冲突的软件包进行故障排除，从而了解python必须根据安装的依赖项进行重新启动，或者有时最好将任务划分而不是一次尝试执行所有操作。我还学习了Gradio的基础知识，以便能够制作该应用程序。最重要的是，我学会了更好地导航Github问题和堆叠式帖子，以找到解决我遇到的问题的解决方法。
就与LLM相关的知识而言，我了解了及时工程的重要性以及它如何显着改善您的推理结果，我学会了更多的自然语言处理（NLP）术语，并且我了解了问题链记忆的类型。我还了解到，开源模型为有兴趣的人提供了开发和部署LLM应用程序的可能性，并花了时间研究文档，解决或解决方法当前问题。
