story chat v1
1.0.0
网站Twitter
AI RAG聊天机器人用于Afictionx故事。
它由Llama Index提供动力,一起ai,一起嵌入和下一步。它将故事嵌入story/data中,并将嵌入到story/cache的媒介数据库中。然后,角色扮演的角色是故事的角色并回答用户的问题。
在幕后,LlamainDex通过检索增强发电(RAG)通过自定义数据源丰富您的模型。
过度简化,此过程通常由两个阶段组成:
一个索引阶段。 LlamainDex通过摄入数据并将其转换为文档来准备知识库。它将这些文档(文本,关系等)从节点中解析为元数据,并将这些块的可查询索引从这些块中创建到知识库中。
查询阶段。从知识库中检索了相关上下文,以帮助模型响应查询。查询阶段确保该模型可以访问其原始培训数据中未包含的数据。

来源:简化
将您的.example.env文件复制到.env中,然后用自己的替换为TOGETHER_API_KEY 。在此.ENV中指定虚拟openai_api_key值以确保其工作(临时黑客)
npm install
http://localhost:3200/api/generate 。 npm run dev
http://localhost:3200/http://localhost:3200/api/chat它支持流响应或JSON响应。